Čísla jsou již známá. 20 milionů dětí. Celkem v 10 zemích. Tolik mladých lidí nyní podle UNICEF interaguje s umělou inteligencí. A hlavně: ovládají tyto technologie třikrát rychleji než jejich rodiče.
Tohle není jen způsob, jak zabít čas. 13 milionů z těchto dětí používá nástroje umělé inteligence k plnění domácích úkolů a získávání podpory ve vzdělávání. Tichý digitální lektor, dostupný i ve 2 hodiny ráno. Mezitím 2 miliony dětí – jedno z deseti – sdílí své starosti s algoritmy. Hledají radu. U auta.
Je to norma? S největší pravděpodobností ano. Ale bezpečnostní infrastruktura nestíhá.
Postoj UNICEF je extrémně tvrdý: rychlost implementace je před regulací. Děti jsou vystaveny návrhu těchto systémů, obchodním modelům, které za nimi stojí, a tomu, jak jsou jejich data extrahována. Zároveň nemají prakticky žádnou možnost tyto procesy odmítnout nebo napadnout. Většina regulačních rámců děti zcela ignoruje a ponechává je bezbranné.
Jaké jsou dlouhodobé následky? To je zatím záhada. Vidíme první důkazy o účincích na kognitivní vývoj a emoční závislost, ale nemáme úplný obrázek. Jak uvedla agentura: “V podstatě vyrůstá generace uvnitř globálního experimentu.”
To je těžko pochopitelná myšlenka.
Děti také vědí, že to není bezpečné. Mají obavy. Třetí se obává, že umělá inteligence bude použita k podvádění, klamání nebo šíření lží. Čtvrtina se obává, že jejich obrázky nebo videa budou zkresleny do hlubokých fake, které jsou sexuální, explicitní nebo zlomyslné. Skutečné obavy. Ne abstraktní obavy.
Zabezpečení se jeví „jako něco, co bylo přidáno dodatečně,“ poznamenává UNICEF a poukazuje na nedostatečné zabezpečení zabudované do těchto systémů.
Tato zpráva se shoduje s prvním globálním dialogem o správě umělé inteligence, který se koná v OSN. UNICEF nedrží jazyk za zuby. Požadují, aby práva dětí – zejména bezpečnost a soukromí – byla od počátku začleněna do jádra globální politiky umělé inteligence.
Volají po dalším výzkumu. Studium rizik. Dopad na rozvoj. Nejde nutně o zákaz technologií. Je důležité si uvědomit, že rozhodnutí, která v příštích několika měsících učiníme, budou utvářet životy těchto dětí na další desetiletí. Přístup, soukromí, pohoda. Vše závisí na rozhodnutích, která jsou nyní učiněna.
Stojíme na okraji útesu a díváme se do budoucnosti napsané v kódu. Experiment již začal. Jen sledujeme, jak se to vyvíjí.
