Recenze knihy: „Literární teorie robotů“ od Dennise Yee Tennena

Literární teorie pro roboty: Jak se počítače naučily psátNapsal Dennis Yee Tinen

V Literární teorii robotů, hravé nové knize Dennise Yi Tinena o umělé inteligenci a o tom, jak se počítače naučily psát, přichází jeden z jeho nejsilnějších příkladů ve formě malé chyby.

Tennen kreslí spojení mezi moderními chatboty, generátory sci-fi zápletek, starověkými slovníky a středověkými proroctvími. Oba Utopisté (Roboti nás zachrání!)) a pesimisté (Roboti nás zničí!) Hádá. Jazyk a učení bude mít vždy neredukovatelný lidský aspekt, zásadní jádro významu, které nevychází jen ze syntaxe, ale ze zkušenosti. Bez toho se nedostanete k ničemu jinému než štěbetání papoušků, které je „podle Descarta ve svých Mediacích pouhým opakováním bez pochopení,“ píše Tennen.

Ale Descartes nenapsal „Zprostředkování“; Tenen musel mít na mysli „odrazy“ – chybějící „t“ by prošlo jakýmkoliv softwarem na kontrolu pravopisu, protože obě slova jsou naprosto legitimní. (Rejstřík knihy uvádí název správně.) Tento jednoduchý překlep nemá na Tennenovu argumentaci žádný vliv; Pokud něco, posiluje to případ, který chce udělat. Stroje jsou stále silnější a chytřejší, ale stále řešíme, co má smysl. Tuto knihu napsal muž. A navzdory robotům v názvu je určeno ke čtení ostatním lidem.

Tennen, nyní profesor angličtiny a srovnávací literatury na Kolumbijské univerzitě, byl softwarovým inženýrem společnosti Microsoft. Své různorodé dovednosti využívá v knize, která je překvapivá, zábavná a vůbec ne děsivá, i když se vyhýbá velkým otázkám o umění, inteligenci, technologii a budoucnosti práce. Myslím, že malá velikost knihy – necelých 160 stran – je součástí pointy. Lidé nejsou neúnavné stroje, které neúnavně absorbují obrovské množství rozsáhlých témat. Tennen objevil, jak prezentovat síť komplexních myšlenek na lidské úrovni.

Za tímto účelem vypráví příběhy, počínaje arabským učencem ze 14. století Ibn Chaldúnem, který zaznamenal použití Kola proroctví, a konče kapitolou o ruském matematikovi 20. století Andreji Markovovi, který analyzoval nahodilost písmen sekvence v Puškinově „Eugene Oněginovi.“ Tvoří základní stavební blok generativní umělé inteligence (běžní hráči Wardellů takové možnosti neustále cítí). Tennen píše o technologických překážkách, které bránily předchozím modelům počítačového učení před „hrubou silou potřebnou k jejich zneužití“. „Všechno zveřejněné v angličtině bylo snadno zpracováno. Nabádá nás, abychom byli ostražití. Také nás nabádá, abychom nepropadali panice.“

„Inteligence se vyvíjí v širokém měřítku, od ‚částečné asistence‘ po ‚plnou automatizaci‘,“ napsal Tennen na příkladu automatické převodovky v autě. Řídit automat v 60. letech muselo být úžasné pro lidi, kteří byli zvyklí na manuální převodovky. Automat funguje tak, že automatizuje klíčová rozhodnutí, v kopcích podřazuje a za špatného počasí posílá na kola méně výkonu. Odebrala možnost zastavit nebo brousit ozubená kola. Byl „uměle inteligentní“, i když tato slova nikdo nepoužil, aby ho popsal. Nyní američtí řidiči berou jeho kouzlo jako samozřejmost. Toto bylo demystifikováno.

Pokud jde o současné debaty o umělé inteligenci, tato kniha se je také pokouší demystifikovat. Místo toho, aby mluvil o umělé inteligenci, jako by měla vlastní mysl, Tennen mluví o společné práci, která vedla k jejímu vybudování. „Používáme kognitivní a lingvistickou zkratku tím, že zhušťujeme a připisujeme technologii samotnou,“ píše. „To se snadněji řekne,“telefon Dokončuje mé zprávy „místo“Inženýrský tým stojící za softwarem při psaní nástroje pro automatické dokončování se opírá o následující desítky výzkumných prací Dokončete mé zprávy.

Naše běžné metafory pro umělou inteligenci jsou proto zavádějící. Tennen říká, že bychom měli být skeptičtí ke všem metaforám, které připisují AI známé lidské kognitivní aspekty. Stroj myslí, mluví, vysvětluje, rozumí, píše, cítí atd. pouze analogicky. To je důvod, proč se velká část jeho knihy točí kolem otázek jazyka. Jazyk nám umožňuje komunikovat a rozumět si. Ale také umožňuje podvod a nedorozumění. Tennen chce, abychom „skoncovali s metaforou“ umělé inteligence – návrh, který by se na první pohled mohl zdát jako koníček anglického profesora, ale nakonec se ukáže jako zcela vhodný. Příliš obecná metafora nás může ukojit. Náš smysl pro možnosti je utvářen metaforami, které volíme.

Textové generátory, ať už ve formě chatbotů 21. století nebo „magie zpráv“ ze 14. století, vždy čelily problému „externího ověřování“, píše Tennen. „Procedurálně generovaný text může dávat gramatický smysl, ale nemusí dávat smysl vždy smysl smysl.“ Vezměte si slavný příklad Noama Chomského: „Zelené, bezbarvé myšlenky divoce spí.“ Každý, kdo žil v hmotném světě, by věděl, že tato gramaticky bezvadná věta je nesmysl. Tennen dále poukazuje na důležitost „prožité zkušenosti“, protože který popisuje náš stav.

Tennen nepopírá, že umělá inteligence ohrožuje mnoho z toho, co nazýváme „kognitivní práce“. Nelze také popřít, že automatizace něčeho také snižuje jeho hodnotu. Ale také to říká jinak: „Automatizace snižuje překážky vstupu a zvyšuje nabídku zboží pro každého.“ Učení je nyní levnější, takže mít rozsáhlou slovní zásobu nebo repertoár zapamatovaných faktů již není tou konkurenční výhodou, jako kdysi. „Dnešní písaři a učenci se mohou postavit kreativnějším úkolům,“ navrhuje. „Únavné úkoly jsou svěřeny strojům.“

Souhlasím s jeho názorem, i když se mi vyhlídky stále zdají hrozivé, protože stále se zmenšující část populace vykonává náročnou kreativní práci, zatímco kdysi prosperující ekosystém se hroutí. Tennen ale také tvrdí, že my jako sociální bytosti máme sílu jednat, ale pouze tehdy, když si dovolíme přijmout odpovědnost, která s tím přichází. Uznává, že „individuální umělá inteligence představuje skutečné nebezpečí vzhledem ke své schopnosti hromadit sílu při honbě za cílem“. Ale skutečné nebezpečí pochází „z naší neschopnosti přimět výrobce technologií k odpovědnosti za jejich činy“. Co kdyby někdo chtěl připevnit proudový motor na auto a podívat se, jak dobře funguje v ulicích přeplněného města? Odpověď je jasná: „Nedělejte to,“ říká Tennen.

Proč to „neudělat“ může v jedné oblasti vypadat snadno, ale v jiné to nevyžaduje více přemýšlení, větší přesnost, podrobnější zkoumání – všechny vlastnosti, které jdou stranou, když se pokloníme AI a zacházíme s technologií jako s jedinečné božstvo místo boha. Mnoho strojů postavených velkým počtem lidí. Tenen jde příkladem a využívá svou lidskou inteligenci k ovlivnění AI. Tím, že reflektuje naše kolektivní myšlenkové návyky, nabízí reflexi své vlastní.

Literární teorie robotů: Jak se počítače naučily psát? | Napsal Dennis Yee Tinen | Norton | 158 str. | 22 dolarů