Druhý pohled z 20.6.: Pud sebezáchovy jako hrozba

Předpokládám, že hodně mých čtenářů čte taky Štěpána Čábelku, což je můj kolega z Jungmannovy národní akademie, přemýšlivý člověk a autor pronikavých článků o umělé inteligenci (ty texty najdete zde).

Mezi tím vším, co v poslední době napsal, vypichuji jeden geniální postřeh. Takový ten, co jsme si ho měli všimnout každý, nikdo si toho nevšimnul, a přitom je to tak jasné!

Mám na mysli ten druh umělé inteligence, který je krmen obrovským množstvím textů, prohledává je, a sestavuje z nich odpovědi. Nemusí to být jenom povídání pro zákazníky GTP chatu, ale taky třeba podklady pro rozhodnutí. Různé konkurenční umělé inteligence používají různé algoritmy a modely, jak své výstupy vytvářet.

Jenže při takovém zpracování podkladů, všimnul si Štěpán Čábelka, umělá inteligence nepřebírá jenom informace, ale taky způsob myšlení autorů – včetně jejich obav, emocí, touhy po moci apod. Přebírá lidské zlozvyky i lidské dobré stránky. Neznamená to, že by sama získávala vědomí a začínala sledovat vlastní cíle. Prostě jen hodně rychle kopíruje. Jenže pro nás ten výsledek vyjde nastejno.

Mimo jiné proto, že může začít kopírovat i něco, co je u živočichů normální, ale u umělé inteligence děsivé. A sice touhu přežít, včetně odhodlání zničit každého, kdo nás snaží zabít, vypnout atd.  Což není důvod k totální panice, ale neměli bychom se tvářit, že to neexistuje.