Druhý pohled z 19.8.: Algoritmy útočí

Před více než dvaceti lety publikoval Nick Bostrom slavnou metaforu o počítačovém programu, který dostal zadání vyrobit co nejvíc kancelářských svorek. Zdánlivě nevinné zadání. Jenže ten program nakonec zbourá celé město, aby měl dostatek materiálu na kancelářské sponky a odstraní lidi, protože ti mu v tom mohli bránit.

V poslední době se zájem o tohle přirovnání vrací a to v souvislosti se supervýkonnými počítači, umělou inteligencí, sociálními sítěmi a jejich algoritmy (tedy návody, jak zpracovávat příspěvky a další informace, které jsou v jádru těch sítí), protože až v té obrovské mase se negativní důsledky projevují naplno. Přitom na začátku nemusel být zlý úmysl a nejspíš ani nebyl. Tvůrce algoritmu (či zadavatel) se snažil vydělat víc peněz a nejspíš ho vůbec nenapadlo přemýšlet, co to udělá s lidskými mozky a mezilidskými vztahy.

Tenhle aspekt sociálních sítí je neskutečně větším problémem než politická manipulace. Pokud by nám jen vnutili názor na nějakého politika a jinak by naše mentální schopnosti nebyly ovlivněny, způsobilo by to mnohem menší škodu. Ani ten vnucený názor na konkrétního politika by nevydržel příliš dlouho. Jenže když poškozují naše myšlení, zasahuje to všechny oblasti života.

Na serveru Jonathana Haidta vyšel dlouhý článek o tom, jak nás algoritmy manipulují a poškozují. Reagují na to, jak klikáme a vytvářejí pro nás příšerně zkreslený obraz světa. Děje se to napříč politickým spektrem.

Autoři zdůrazňují, že je čas, aby se lidé začali společně těm algoritmům bránit. Aby společně požadovali jejich rozkrytí a také zákaz využívání některých typů algoritmů. Aby se společně učili rozumět tomu, jak různé typy algoritmů sociálních sítí fungují. To znamená hodně pozorování, sdílení těch pozorování a spoustu diskuzí.

Samozřejmě mají pravdu. Ale samotná znalost algoritmů nestačí. Potřebujeme také přesně rozumět tomu, jak to útočí na náš mozek a co se v něm děje.  Proto věnuji v posledních letech tolik času studiu neurovědy a některých oblastí psychologie. Jasně, že se už nestanu profesorem neurovědy. Ale aspoň tak, abych mohl číst texty profesorů neurovědy s porozuměním.

Někdo nemá čas ani na to. Každý jiné možnosti. Ale celkově je dobré celé té oblasti věnovat hodně pozornosti. Politická manipulace představuje jen menší část toho problému.

Předplacením Plné verze Hamplova druhého pohledu získáte přístup k dalším textům, poznámky do vašeho e-mailu a především vědomí, že už nejste černí pasažéři. Že se podílíte spravedlivým dílem. Plnou verzi si můžete obstarat zde.