Umělá inteligence jako sociální technologie

Henry Farrell a Cosma Rohilla Shalizi

"Žádný vědecký model, organismus nebo artefakt nemůže zachytit
své prostředí v úplné podrobnosti."

"Slepá místa jsou nevyhnutelným rysem všech abstrakcí."

"Byrokratická hierarchie... je základní oporou velké lidské
civilizace."

Dlouhý článek, přes 65000 znaků. Rozsáhla bibliografie.
Anglicky.

---
#tg717157152 Složité. Je v slozite.txt .
https://knightcolumbia.org/content/ai-as-social-technology .
#HenryFarrell #CosmaShalizi .

Vnímám v tom Farrell a Shalizi -ovi -im dvě věci:
(1) Lidstvo je složité. Jak funguje.
(2) Umělá inteligence.

Jednička je pro ně stará vesta, z toho vycházejí.
Je to něco, co já chci říct tak, aby to bylo srozumitelné
na úrovni středoškolského studenta.
Podle mě to není všeobecně známo.

Dvojka, nebo jejich dvojka, mě vlastně moc nezajímá.
Nějak "vím", že tím se zabývat nechci.
Můžu si k tomu dávat nějaká vysvětlení.
Možná je to podovné, jako se nechci zabývat ekonomií.
Mně zajímá #tg956098485 "správa",
jako něco co se nějak podobá
vědomí(?), svědomí(??), rozumu(?), citu(?).
Co se nějak podobá tomu, co se děje v povídání ve dvou,
jak ho popisuju, v tématu #tg383511571 Dvě.

---
#tg717157152 Složité. Je v slozite.txt .

Souvisí mi to s:

Když se setkám(?) s konkrétním(?) druhým(?) člověkem(?).
Když potřebujeme(?), chceme(?), míníme(?) spolupracovat.
Když každý máme svůj jazyk; navzájem cizí; nesrozumitelné.
(A, pro pořádek, když nemáme žádný společný třetí jazyk.)

První ne:
"Boj"(???), čí jazyk budeme používat.

Druhé ne:
Vnější pomoc. Překladatel. Tlumočník. Lidský nebo strojový.

Ano:
Vzájemně se nučit jazyk druhého a přitom tvořit duolekt.

---
#tg717157152 Složité. Je v slozite.txt .

Farrell a Shalizi:
> Velké jazykové modely (LLM) vytvářejí sociální vztahy mezi
> svými uživateli a autory textů v korpusech, na nichž byly
> vycvičeny... lze vysledovat souvislosti od výstupu systému
> zpět k jednotlivým zdrojovým textům a jejich autorům... Tyto
> sociální vztahy jsou zprostředkovány mechanicky, což
> uživatelům navozuje iluzi, že komunikují pouze se strojem, a
> nikoli se skupinou lidí. Zprostředkované sociální vztahy a
> jejich iluze jsou však běžnou součástí moderního života.
> Sociální vztahy vytvořené LLM se zase prolínají s jinými
> sociálními vztahy, včetně těch, které jsou formovány jinými
> sociálními technologiemi, a interagují s nimi.

Mě zajímají (1) především "ne-zprostředkované vztahy".
Vzorově, když se těla setkávají / přibližují, i když
nevylučuju (jiný typ) "zprostředkování": dopis, telefon,
mejl, čet, videohovor... Mezi nimi pak ty vztahy, které
popisuju v tématu #tg383511571 Dvě.

Dále, (2) vztahy zprostředkované síťování / tkaním /
tkáňováním vztahů typu 1.

A (3) vztahy zprostředkované(?) / uskutečňované(?) /
tvořené(?) "správou"(? věcí společných). "Demokracie"(??).
Způsobem, kde má (dobrý) smysl mluvit o té zprostředkující
socialní technologii(?), jako by byla člověkem(?) /
individuem(?). "My, lid Spojených národů..."

To je pro mě hodně jiné, než "my, účastníci trhu" nebo "my,
uživatelé velkých jazykových modelů".

Něco je (samozřejmě) společné / podobné.

Trhy, velké jazykové modely, jazyky... To vše beru v potaz,
je to mé / naše prostředí, nějak to používám / používáme...

Vnímám to spíš jako "nevědomou přírodu"(???)...

A skoro určitě mi nejde o nějaké "objektivní definování";
nejde mi o to, že by to dělení na 1, 2, 3 a zbytek bylo
nějak vně mě / vně nás. Spíš to chápu jako "sebedefinici".
Já / my tvoříme sebe. Autopoiesis. Tvar. Jsem. Výraznost.
Láska.

---
#tg717157152 Složité. Je v slozite.txt .

Farrell a Shalizi:
> Dějepisci ekonomie popisují, jak transformaci lidských
> schopností vyrábět ve velkém měřítku v průběhu posledních
> několika století postrkovaly „univerzální technologie“, jako
> je pára a elektřina... mnoho badatelů... věnovali méně
> pozornosti institucionálním aspektům průmyslové revoluce,
> zejména pak zásadním proměnám v lidské schopnosti
> organizovat hospodářský, společenský a politický život, což
> umožnilo nové výrobní technologie.

Zásadní proměna organizace hospodářského, společenského a
politického života. Podle mě schopnost "organizovat
organizaci", tj. schopnost nějak tvůrčím nebo revolučním
způsobem, vědomě, cíleně měnit organizaci hospodářského,
společenského a kulturního života (na rozdíl od nějak
samovolných nebo nahodilých změn) přišla až později. Teď je
mnohem větší než dřív. V planetárním měřítku se o to docela
úspěšně pokoušíme, ale krátce. Nějak vážně nanejvýš sto let.

Známá otázka: Jestlipak ty "společenské změny" nějak
samovolně nebo nutně nebo zákonitě vyplývají ze změn
technologií?

Můj postoj: Ne. (Jasně, všechno ovlivňuje všechno, ale já
nějak věřím[?], že kdyby neandrtálec vynalezl a dokonce
potavil lokomotivu, že by nenastala průmyslová revoluce.)

(Nové technologie měly výrazný vliv na válčení.)

---
#tg717157152 Složité. Je v slozite.txt .

@tymoty tohle je obecně blízké úvahám "proč Římané nedospěli k železnici". A ano, souvisí to i s organizací společnosti.

Rozvoj novověku a tím pádem novověkého průmyslu paradoxně souvisí s rozmachem využití síly vody a větru, zejména pak námořní plavby. Industriální revoluce přišla pak až asi 200 let potom...

Trochu zjednodušeně řečeno, novověk v renesanci navázal na antiku a rozvinul některé myšlenky - třeba křižování proti větru, které je paradoxně efektivnější, než plavba s větrem v zádech (málo intuitivní fakt, který ale zvýhodňuje v rozvoji myšlení přímořské národy před vnitrozemci, stejně jako rutinní vnímání obzoru).

Vzniklé přebytky v kombinaci s převážně merkantilistickým chápáním ekonomiky nasměrovaly lidi k alchymii, ze které omylem vzešla věda a moderní technologie, ze kterých přímo vzešla průmyslová revoluce.

James Watt pracoval na univerzitě jako údržbář laboratorních přístrojú, dá se říct. Ale samo o sobě to znamenalo sociální prostupnost, i pro myšlenky. V Římě by tehdejší myslitelé zřejmě do takto bezprostředního kontaktu s řemeslníky nepřišli... alespoň tak dnes antickou civilizaci chápeme.

Obecně, Římané znali Heronovu baňku, což byla primitivní parní turbína, ale nezaměřovali se tolik na těžbu uhlí a objem výroby železa by na železnici nestačil.

Pro jejich legie by dával obrovský smysl přesun na bicyklech. K tomu by ale potřebovali sériovou výrobu kuličkových ložisek. Kuličková ložiska sice znali, byla použitá třeba v kormidlech Neronových lodí na nějakém jezeře (byly zničeny za 2.světové). Ale šlo o kuličková ložiska metr velká... tedy nic použitelného v bicyklu (nemluvě o to, že na bicykly potřebuješ i kaučuk z kolonií... to už spíš ta železnice, ale na tu asi potřebuješ protestantskou etiku místo hedonismu...)

@tymoty společnost, ve které kovář a písař patří do jiné kasty, jeden neumí číst a psát a druhý neumí pracovat s nástroji, sice vede k utužování dělby práce a budování uzavřených kast se silnou vyjednávací pozicí vůči jiným kastám, ale nakonec omezuje imaginaci jak kováře, tak písaře. Písař bez technické imaginace se nestane vynálezcem. Stejně tak od kováře přes šperkaře k hodinářovi je dlouhá cesta... a šance na zmenšování strojů je lepší v odlehlých horských údolích, kde se lidé nudí a nedostane se tam velký objem materiálu, spíše než ve městech, kde je dostatek zábavy a zdrojů... tam dostaneš tak možná orloj.

Ale když něco zmenšíš, snáze se to přepravuje a obchoduje, a tím se ti nápad virálně rozšíří...

Organizace společnosti je podle mě bezradná, pokud mají lidé omezenou imaginaci. A celkově tam, kde je organizace společnosti tuhá a rigidní, tam jsou inovace a nápady ohrožující tradiční hierarchie zašlapané do země už v zárodku... svoboda tam jistě hraje svou roli.

@xChaos @tymoty Umm. Krizovani proti vetru a) je podstatne mladsi a ac prekvapive efektivni b) neni takovy zazrak :-).

@pavel počkej, bez aspoň občanského křižování proti větru by nebyly novověké zámořské expedice vůbec možné...

Samozřejmě, dokud po větru pluješ pomalu, tak paradoxně využíváš větší podíl energie obsažené ve větru, než když se začneš snažit plout rychle 🙂

Každopádně, pokud za byrokrata nepovažuješ toho kapitána, co ten manévr nařídí, tak nesouvisí tolik s organizací společnosti, jako spíš s existencí toho knowhow v rámci kultury a civilizace.

@tymoty

@xChaos @tymoty Cituji: "Trochu zjednodušeně řečeno, novověk v renesanci navázal na antiku a rozvinul některé myšlenky - třeba křižování proti větru, které je paradoxně efektivnější, než plavba s větrem v zádech".

Nejsem si jisty jak stare je krizovani, ale jedna vec je "umime jet 80 stupnu na vitr", jina vec je "umime jet 40 stupnu na vitr" (frajerina i s dnesni technologii) a "krizovani je efektivnejsi" (neni, plavba kolmo na vitr je, krizovat se da i po vetru).

:)

@xChaos @tymoty A jako fakt si myslim ze ameriku objevili s lodmi ktere nebyly, nebo prakticky nebyly, schopne jet proti vetru. Pro plavbu proti vetru je potreba kridlo (v zasade) -- a tohle nevypada jako kridlo :-).

https://cs.wikipedia.org/wiki/Santa_Mar%C3%ADa_(karaka)

@pavel @tymoty @xChaos AI - Takže zárodky křižování jsou staré přes 1500 let – jen bylo po dlouhou dobu výsadou středomořských lodí s latinskými plachtami.

@pavel no ano, Santa María jako karaka ještě nebyla schopná jet proti větru, ale dvě menší doprovodné karavely už ano.

Wiki je v tomhle naprosto skoupá na informace, tváří se, jako kdyby bylo plachtění vynalezené v 19.století.

https://en.wikipedia.org/wiki/Caravel
It was noted for its capacity for sailing windward

Jinak karaky měly trojúhelníkovou plachtu na zadním stožáru, takže (omezenou) schopnost křižovat proti větru přeci jen měly:

https://en.wikipedia.org/wiki/Carrack
lateen-rigged on the mizzenmast

https://en.wikipedia.org/wiki/Lateen
It is a widespread misconception that the lateen rig replaced square rig because of better windward performance and greater manoeuvrability. A study of the relative effectiveness of the two shows that their performance was actually very similar.

V zásadě teda skoro všechno, co jsem na tohle téma napsal, je dezinformace :-) ...tedy kromě toho, že opravdu schopnost plout proti větru tu byla a byla pro zámořský obsah zásadní.

@tymoty

@dodo1095zd no a přitom podle wiki je to prý obecně oblíbený omyl a s hranatými šlo prý taky křižovat...

Každopádně, Římané proti větru ještě pluli spíš pomocí otroků a vesel, a jejich "vyspělá byrokracie" jim byla houby platná, oproti tomu, když nějaký chytrý rybář objevil plachtění a ostatní to od něj okoukali. A i takové detaily můžou přispět k pádu velkých říší...

@pavel @tymoty