Kmotr umělé inteligence Geoffrey Hinton při svém odchodu z Googlu varuje před riziky

Muž všeobecně považovaný za kmotra umělé inteligence (AI) opustil svou práci a varoval před rostoucími nebezpečími vyplývajícími z vývoje v této oblasti.

Jeffrey Hinton (75) oznámil svou rezignaci z Google v prohlášení pro New York Times s tím, že nyní své práce lituje.

Řekl BBC, že některá rizika chatbotů jsou „velmi děsivá“.

„V tuto chvíli nejsou o nic chytřejší než my, pokud mohu soudit. Ale myslím, že by brzy mohli být.“

Průkopnický výzkum Dr. Hintona v oblasti hlubokého učení a neuronových sítí vydláždil cestu pro současné systémy umělé inteligence, jako je ChatGPT.

Britsko-kanadský kognitivní psycholog a počítačový vědec však BBC řekl, že chatbot by mohl brzy překonat úroveň informací, které má lidský mozek.

„V tuto chvíli jsme svědky toho, že věci jako GPT-4 předčí člověka v množství všeobecných znalostí, které má, a hodně předčí člověka. Pokud jde o uvažování, není to moc dobré, ale je to jednoduché.“ myslící.

„A vzhledem k tempu pokroku očekáváme, že se věci velmi rychle zlepší. Takže si s tím musíme dělat starosti.“

V článku New York Times se Dr. Hinton zmiňoval o „špatných hercích“, kteří by se pokusili využít AI pro „špatné věci“.

Když ho BBC požádala, aby to rozvedl, odpověděl: „Toto je jen nejhorší scénář, něco jako scénář noční můry.

„Dovedete si představit, že se třeba některým špatným hercům líbí [Russian President Vladimir] Putin se rozhodl dát robotům možnost vytvářet si vlastní dílčí cíle.

V konečném důsledku by to mohlo „vytvořit dílčí cíle jako ‚Potřebuji být silnější‘,“ varoval vědec.

Dodal: „Došel jsem k závěru, že typ inteligence, který vyvíjíme, se velmi liší od inteligence, kterou máme.

„Jsme biologické systémy a toto jsou digitální systémy. Velký rozdíl je v tom, že s digitálními systémy máte mnoho kopií stejné sady závaží, stejného modelu světa.“

„A všechny tyto klony se mohou učit odděleně, ale okamžitě sdílet své znalosti. Takže je to jako když máte 10 000 lidí a kdykoli se někdo něco naučí, všichni to automaticky vědí. A tak tito chatboti mohou vědět mnohem víc než kterýkoli člověk.“

Dr. Hinton také řekl, že existuje několik dalších důvodů pro odchod ze zaměstnání.

„Jedním z nich je, že je mi 75. Takže je čas odejít do důchodu. Další bylo, že opravdu chci říct pár dobrých věcí o Googlu. Bylo by důvěryhodnější, kdybych nepracoval pro Google.“

Zdůraznil, že nechce kritizovat Google a že technologický gigant je „velmi zodpovědný“.

Hlavní vědecký pracovník společnosti Google Jeff Dean v prohlášení uvedl: „Zůstáváme odhodláni k odpovědnému přístupu k umělé inteligenci. Neustále se učíme porozumět vznikajícím rizikům a zároveň odvážně inovujeme.“