Za umělou inteligenci jsou stručně řečeno považovány počítače, stroje a další zařízení, které jsou schopné samostatně uvažovat a učit se. V dnešním světě již pracujeme s tzv. „slabou“ umělou inteligencí na úrovni chatovacích robotů, kteří nám mohou třeba pomoci sjednat pojistku. Nová studie Allianz však do roku 2040 předvídá rozšíření tzv. „silné“ umělé inteligence, tedy robotů, kteří budou schopní sami řešit komplexní problémy.

Rozšíření umělé inteligence do všech oborů lidské činnosti přinese mnoho výhod, ale také nových výzev. Firmy zvýší efektivitu, ubyde rutinních činností vykonávaných lidmi, zvýší se bezpečnost autodopravy, zdravotnictví prodělá revoluci a díky systémům chytrých měst budeme moci lépe korigovat dopad působení člověka na životní prostředí. Díky využití umělé inteligence se také budeme umět lépe bránit proti běžným hackerským útokům.

Výčet nevýhod a rizik rozvoje umělé inteligence je však podobně dlouhý. Vyšší propojenost systémů v dané firmě, nebo firmy s místními či globálními sítěmi, zvýší zranitelnost podniků vůči útokům zvenku. Povedený kyberútok způsobí mnohem větší ztráty než dosud, zejména pokud bude podobný způsob útoku v krátké době zopakován na stejných robotech v různých firmách. Už dnes bychom proto měli začít pracovat na přípravě efektivního záchranného systému, ale zejména na prevenci těchto (předvídatelných) situací.

Allianz kvůli tomu v nové studii varuje před zbrklým zaváděním nových technologií. Ani při snaze „být první“ by neměla být opomenuta prevence proti katastrofickým scénářům. AGCS doporučuje zaměřit se v případě umělé inteligence na těchto pět klíčových oblastí a řešit je systematicky na úrovni firem i vlád:

1. Otevřenost softwaru – Je třeba vyřešit dilema, zda má být zdrojový kód softwaru umělé inteligence veřejně přístupný pro komunitu vývojářů či ne. Pokud bude k dispozici široké veřejnosti, minimalizuje se riziko programovacích chyb. Na druhou stranu také stoupá šance, že někdo chybu objeví, zamlčí ji a v budoucnu jí zneužije.

2. Bezpečnost – Před uvedením do prodeje musí být zařízení plně připravena na reálný svět. To je obtížné, ať už z hlediska jeho komplexity, ale také kvůli tlaku na rychlý vývoj. Je třeba postupovat s maximální obezřetností a nastavit adekvátní pravidla.

3. Zodpovědnost – Kromě odpovědného vývoje a testování zahrnuje tato položka také potřebu naprogramovat roboty tak, aby jejich rozhodování bylo transparentní a kontrolovatelné. Každý krok robota by měl být zpětně odůvodnitelný. Veřejnost má mít tzv. „právo na vysvětlení“.

4. Ručení – Zásadní otázka nejen pro oblast pojišťovnictví. Kdo bude ručit za kroky robota, které udělá na základě vlastního uvážení – vývojář, majitel, nebo přijdeme s nějakým úplně jiným, novým řešením? Zatím je nejpravděpodobnější převzetí odpovědnosti výrobcem.

5. Etika – Se zaváděním umělé inteligence se pojí řada etických otázek, na jejichž řešení bychom měli urychleně začít pracovat. Již dnes se vývojáři setkávají s tím, že naprogramovat „správné řešení“ není vůbec jednoduché, například v případě krizových situací při autonehodách.