Evropská unie schválila zásadní pravidla pro umělou inteligenci

Otevřete Editor’s Digest zdarma

Rula Khalaf, redaktorka Financial Times, vybírá své oblíbené příběhy v tomto týdenním zpravodaji.

Zákonodárci EU schválili podmínky přelomové legislativy pro regulaci umělé inteligence a postoupili vpřed s uzákoněním nejpřísnějšího režimu na světě pro vývoj této technologie.

Thierry Breton, komisař pro Evropskou unii, v příspěvku na webu X potvrdil, že bylo dosaženo dohody, a označil ji za historickou dohodu. „Evropská unie se stala prvním kontinentem, který stanovil jasná pravidla pro používání umělé inteligence,“ napsal. „Kód umělé inteligence je víc než jen kniha pravidel – slouží jako startovací rampa pro začínající a výzkumné pracovníky z EU, aby vedli globální závod v oblasti umělé inteligence.“

Dohoda přišla po letech diskusí mezi členskými státy a poslanci Evropského parlamentu o způsobech, jakými by měla být umělá inteligence omezena, aby se zájem lidstva dostal do středu legislativy. Stalo se tak po maratónských diskuzích, které začaly ve středu tohoto týdne.

Podrobnosti dohody se po oznámení stále odvíjely. Breton uvedl, že zákonodárci se shodli na dvoustupňovém přístupu s „požadavky na transparentnost pro všechny modely umělé inteligence pro všeobecné účely (jako je ChatGPT)“ a „přísnějšími požadavky na robustní modely se systémovými účinky“ v celé EU.

Britton uvedl, že pravidla zavedou ochranná opatření pro používání technologie AI a zároveň zabrání „nadměrné zátěži“ pro společnosti.

Mezi novými pravidly se zákonodárci dohodli na zavedení přísných limitů pro používání technologie rozpoznávání obličeje, s výjimkou úzce definovaných výjimek pro vymáhání práva.

Legislativa také zahrnuje zákaz používání umělé inteligence pro „sociální hodnocení“ – pomocí metrik k určení, jak je někdo přímý – a systémy umělé inteligence, které „manipulují lidské chování za účelem obcházení lidské svobodné vůle“.

Je také zakázáno využívat umělou inteligenci ke zneužívání lidí, kteří jsou zranitelní kvůli svému věku, zdravotnímu postižení nebo ekonomické situaci.

Společnostem, které pravidla nedodrží, hrozí pokuta ve výši 35 milionů eur, tedy 7 procent globálních příjmů.

Některé technologické skupiny nebyly šťastné. „Máme dohodu, ale za jakou cenu? Plně jsme podporovali přístup založený na rizicích založený na využití umělé inteligence, nikoli na technologii samotné, ale na pokusu o regulaci základních modelů na poslední chvíli,“ řekla Cecilia Bonfield Dahl, manažerka ředitel společnosti DigitalEurope, která zastupuje technologický sektor kontinentu, obrátil jsem to vzhůru nohama.

„Nové požadavky – stejně jako další rozsáhlé nové zákony, jako je zákon o údajích – budou vyžadovat mnoho zdrojů, které společnosti musí splnit, zdroje, které budou vynaloženy na právníky, spíše než na najímání inženýrů AI.“

Před zahájením jednání s členskými státy a Evropskou komisí, výkonným orgánem EU, se europoslanci léta dohadovali o svém postoji. Tři – národní ministerstva, poslanci a Komise – se v pátek večer dohodly na konečném znění, což umožnilo, aby se legislativa stala zákonem.

Evropské společnosti vyjádřily obavy, že příliš restriktivní pravidla uvalená na technologii, která se rychle vyvíjí a získala více pozornosti po zavedení ChatGPT OpenAI, budou bránit inovacím. V červnu desítky největších evropských společností, jako je francouzský Airbus a německý Siemens, uvedly, že stávající pravidla jsou příliš přísná na to, aby podporovala inovace a pomáhala místním průmyslům.

Minulý měsíc hostilo Spojené království summit o bezpečnosti umělé inteligence, který vedl k rozsáhlým závazkům 28 zemí spolupracovat na řešení existenčních rizik, která představuje pokročilá umělá inteligence. Tato událost přilákala přední technologické osobnosti, jako je Sam Altman z OpenAI, který již dříve kritizoval plány EU na regulaci této technologie.

Ursula von der Leyen, předsedkyně Evropské komise, výkonného orgánu EU, pochválila zákonodárce za politickou dohodu o pravidlech AI.

„Je to historický okamžik,“ řekla. Zákon o umělé inteligenci přináší evropské hodnoty do nové éry.

Dodala: „Dokud se zákon nestane plně vymahatelným, budeme podporovat společnosti a vývojáře v předvídání nových pravidel. Téměř 100 společností již vyjádřilo svůj zájem připojit se k naší Chartě umělé inteligence, v jejímž rámci se dobrovolně zaváží implementovat klíč povinnosti ze zákona před zákonnou lhůtou.“