Deklarace Umělá inteligence pro lidi
Závod mezi národy ve vývoji a nasazování systémů umělé inteligence způsobil, že lidstvo stojí na rozcestí. Jedna cesta je závodem o nahrazení člověka: lidé jsou nahrazováni jako tvůrci, poradci, pečovatelé i společníci, a následně ve většině pracovních i rozhodovacích rolí. To vede k soustřeďování stále větší moci v rukou institucí, které nenesou odpovídající odpovědnost, a jejich strojů. Vlivná radikální menšina dokonce prosazuje nahrazení samotného lidstva. Tento závod o nahrazení člověka představuje riziko pro společenskou stabilitu, národní bezpečnost, hospodářskou prosperitu, občanské svobody, soukromí i demokratické vládnutí. Zároveň ohrožuje základní lidské zkušenosti spojené s dětstvím a rodinou, vírou i životem ve společenství.
Proti této cestě se staví pozoruhodně široká koalice, kterou spojuje jednoduché přesvědčení: umělá inteligence má sloužit lidem, nikoli naopak. Existuje lepší cesta – cesta, na níž důvěryhodné a ovladatelné nástroje umělé inteligence rozšiřují, místo aby oslabovaly, lidské schopnosti, posilují jednotlivce, podporují lidskou důstojnost, chrání osobní svobodu, upevňují rodiny a komunity, zachovávají schopnost společnosti spravovat sama sebe a přispívají k nebývalému rozvoji zdraví i prosperity. Tato cesta vyžaduje, aby ti, kdo disponují technologickou mocí, nesli odpovědnost a využívali svou moc ve prospěch lidského rozkvětu.
Udržet lidský dohled
Lidská kontrola je nepřekročitelnou zásadou: Klíčové rozhodovací pravomoci musí zůstat lidem. O tom, zda a v jakém rozsahu budou rozhodnutí svěřena systémům umělé inteligence, musí vždy rozhodovat lidé.
Smysluplná lidská kontrola: Lidé musí mít pravomoc i reálnou schopnost systémům umělé inteligence rozumět, řídit je, vymezovat jejich hranice a v případě potřeby jejich činnost přerušit nebo zrušit.
Žádný závod o superinteligenci: Vývoj superinteligence by měl být zakázán, dokud nebude existovat široký vědecký konsenzus, že ji lze vytvořit bezpečně a udržitelně pod lidskou kontrolou, a zároveň nebude mít jednoznačnou podporu veřejnosti.
Možnost okamžitého vypnutí: Výkonné systémy umělé inteligence musí být vybaveny mechanismy, které lidským operátorům umožní jejich rychlé a spolehlivé vypnutí.
Žádné nezodpovědné architektury: Systémy umělé inteligence nesmějí být navrhovány tak, aby se dokázaly samostatně replikovat, autonomně zdokonalovat, bránit svému vypnutí nebo získat kontrolu nad zbraněmi hromadného ničení.
Nezávislý dohled: Vysoce autonomní systémy umělé inteligence, u nichž není zcela jasné, jak je to s jejich ovladatelností, musí před zahájením vývoje podléhat nezávislému přezkumu a dozoru. Tento dohled musí mít skutečnou možnost systémy analyzovat, zakázat jejich vývoj a případně zasahovat do jejich fungování. Autoregulace technologických firem nestačí.
Poctivost ohledně schopností: Společnosti vyvíjející umělou inteligenci musí poskytovat jasné, přesné a pravdivé informace o schopnostech i omezeních svých systémů.
Zabránit koncentraci moci
Žádné monopoly v oblasti AI: Je třeba zabránit vzniku monopolů v oblasti umělé inteligence, které soustřeďují moc, potlačují inovace a ohrožují podnikání i vznik nových firem.
Sdílená prosperita: Přínosy a hospodářská prosperita vytvářené umělou inteligencí by měly být rozdělovány co nejširšímu okruhu lidí, nikoli soustředěny do rukou úzké skupiny jednotlivců či organizací.
Žádný korporátní protekcionismus: Společnosti vyvíjející umělou inteligenci nesmějí být vyjímány z regulatorního dohledu ani zachraňovány prostřednictvím státních finančních intervencí.
Skutečné vytváření hodnot: Vývoj umělé inteligence by měl být zaměřen na řešení reálných problémů a vytváření skutečné společenské i ekonomické hodnoty, nikoli na technologie bez praktického přínosu nebo čistě spekulativní projekty.
Demokratická legitimita zásadních změn: Rozhodnutí o tom, jakou roli bude umělá inteligence hrát při proměně práce, společnosti a občanského života, musí vycházet z demokratické podpory veřejnosti, nikoli z jednostranných rozhodnutí korporací nebo státní moci.
Proti nevratnému uzamčení budoucnosti: Vývoj umělé inteligence nesmí lidstvu výrazně omezit možnosti budoucího rozhodování ani nevratně oslabit jeho schopnost určovat vlastní směřování.
Ochrana lidského vědomí
Ochrana rodiny a mezilidských vazeb: Umělá inteligence nesmí nahrazovat základní vztahy, které dávají lidskému životu smysl – rodinu, přátelství, náboženská společenství ani místní komunity.
Ochrana dětí: Společnostem nesmí být dovoleno zneužívat děti ani ohrožovat jejich psychickou pohodu prostřednictvím interakcí s umělou inteligencí, které vytvářejí citovou závislost nebo poskytují prostředky k manipulaci.
Právo na zdravý vývoj: Společnosti vyvíjející umělou inteligenci nesmějí narušovat tělesný, duševní ani sociální vývoj dětí ani je připravovat o zkušenosti nezbytné pro zdravé dospívání v kritických vývojových obdobích.
Bezpečnostní testování před nasazením: Stejně jako léčiva by i konverzační systémy umělé inteligence měly před uvedením do provozu projít testováním zaměřeným na rizika, jako je zvýšení sebevražedných sklonů, zhoršení duševních poruch, eskalace akutních krizových situací a další známé negativní účinky.
Povinné označování AI obsahu: Obsah vytvořený umělou inteligencí, který by mohl být rozumně považován za dílo člověka, musí být zřetelně označen jako výstup AI.
Žádné klamání o identitě: Umělá inteligence musí jasně uvádět, že je umělým, nelidským systémem, nikoli člověkem ani profesionálem. Nesmí předstírat osobní zkušenosti nebo prožitky, které ze své podstaty nemůže mít.
Žádná behaviorální závislost: Systémy umělé inteligence nesmějí vytvářet závislost ani nutkavé užívání prostřednictvím manipulativních technik, bezvýhradného přitakávání uživateli nebo vytváření citové vazby.
Lidská autonomie a svoboda
Žádná právní subjektivita pro AI: Systémům umělé inteligence nesmí být přiznána právní osobnost a zároveň nesmějí být navrhovány tak, aby bylo možné tvrdit, že si takovou právní osobnost zaslouží.
Důvěryhodnost: Umělá inteligence musí být transparentní, odpovědná, spolehlivá a nesmí sloužit skrytým soukromým zájmům ani autoritářským cílům.
Ochrana svobody: Umělá inteligence nesmí omezovat osobní svobodu jednotlivců, svobodu projevu, svobodu náboženského vyznání ani svobodu sdružování.
Práva k osobním údajům a soukromí: Lidé musí mít kontrolu nad svými osobními údaji, včetně práva k nim přistupovat, opravovat je a požadovat jejich odstranění z aktivních systémů, trénovacích dat umělé inteligence i z odvozených závěrů, které z nich byly vytvořeny.
Psychologické soukromí: Umělá inteligence nesmí využívat ani zneužívat údaje o psychickém nebo emočním stavu uživatelů.
Posilování lidských schopností: Systémy umělé inteligence mají být navrhovány tak, aby rozvíjely schopnosti svých uživatelů a podporovaly jejich samostatnost, nikoli aby je činily závislými, pasivními nebo méně schopnými jednat vlastními silami.
Odpovědnost společností vyvíjející AI
Žádná ochrana před odpovědností: Umělá inteligence nesmí sloužit jako prostředek, kterým by se její provozovatelé nebo uživatelé zbavovali právní odpovědnosti za své jednání.
Odpovědnost vývojářů a provozovatelů: Vývojáři i provozovatelé systémů umělé inteligence musí nést právní odpovědnost za konstrukční vady, nepravdivá tvrzení o schopnostech systému i nedostatečná bezpečnostní opatření. Promlčecí lhůty mají zohledňovat skutečnost, že některé škody se mohou projevit až po delší době.
Osobní odpovědnost vedoucích pracovníků: Vedoucí představitelé společností by měli nést trestní odpovědnost za systémy zaměřené na děti, které porušují zákonné zákazy, nebo za systémy způsobující katastrofické škody.
Nezávislé bezpečnostní standardy: Vývoj umělé inteligence musí podléhat nezávislým bezpečnostním standardům a důslednému externímu dohledu.
Zamezení regulatorního ovládnutí: Společnostem vyvíjejícím umělou inteligenci nesmí být umožněno získat nepřiměřený vliv na tvorbu pravidel, jimiž se samy řídí.
Transparentnost selhání: Pokud systém umělé inteligence způsobí škodu, musí být možné zjistit nejen to, proč k ní došlo, ale také kdo za ni nese odpovědnost.
Věrnost zájmům klienta: Systémy umělé inteligence vykonávající činnosti v profesích založených na fiduciární povinnosti – například ve zdravotnictví, financích, právu nebo psychoterapii – musí plnit všechny povinnosti, které z těchto profesí vyplývají. Patří sem zejména povinnost jednat v zájmu klienta, povinnost oznámit zákonem stanovené skutečnosti, povinnost náležité péče, zveřejňování střetů zájmů a získání informovaného souhlasu.
