Až bude ve válce o tom, kdo přežije, rozhodovat umělá inteligence…
DARPA zahajuje vojenský program na vývoj algoritmů pro třídění zraněných v bitvě. Mezitím se umělá inteligence již používá k řízení bezpilotních letounů a pro informační válku, píše server ANSA.
Co se stane, když ve válce bude o tom, kdo přežije a kdo zemře, rozhodovat umělá inteligence? To, co je zatím jen teoretickou úvahou nebo etickým dilematem, se může brzy stát skutečným problémem, který ovlivní všechny aspekty konfliktu: od útoků vedených proti nepříteli až po péči o raněné v polních nemocnicích.
Umělá inteligence ve válce
Pokud jde o útok, umělá inteligence již hraje důležitou roli: ukrajinské ozbrojené síly například již používají proti ruské armádě TB2 Bayraktar, taktický bezpilotní letoun (tj. dron) turecké výroby, který může nést protitankové střely a který díky umělé inteligenci sám přistává a startuje, ale k aktivaci svých zbraní stále vyžaduje lidský zásah.
Je zkrátka potřeba, aby někdo stiskl spoušť. Použití Lantsetu, ruského „kamikadze“ určeného k útokům na tanky, kolony vozidel nebo soustředění vojsk, je jiné: letí autonomně, dokud nezjistí předem stanovený cíl, do kterého narazí a exploduje. Používá se v Sýrii a je to v podstatě zbloudilý, ale inteligentní projektil, který vždy čeká na úder.
V širším slova smyslu se umělá inteligence již využívá v takzvané informační válce, která se točí kolem využívání zpráv – pravdivých, nebo častěji falešných a umně vytvořených – k dosažení strategických vojenských cílů, usměrňování veřejného mínění a vytváření nebo podkopávání konsenzu.
Umělá inteligence a třídění zraněných v bitvě: rozhodování „v okamžiku“
Existuje ještě jeden, mnohem méně zřejmý kontext, v němž bude muset umělá inteligence brzy rozhodovat o tom, kdo má šanci na život a kdo ne: řízení třídění raněných v bitvě. Ve válce pracuje zdravotnický personál v neustálé pohotovosti a přijímá raněné, přičemž neustále činí obtížná rozhodnutí a upřednostňuje zásahy k záchraně životů na základě řady chladných parametrů: závažnosti stavu, odhadované šance na přežití raněného, dostupnosti prostředků a nástrojů k zásahu a ošetření. Lékaři mají často jen několik okamžiků na to, aby se rozhodli, koho zachránit jako prvního, aby využili svých zkušeností a rozhodli se s obrovskou odpovědností, a proto by nyní Agentura pro pokročilé obranné výzkumné projekty (DARPA), inovační složka americké armády, chtěla tuto volbu svěřit umělé inteligenci.
Projekt se jmenuje „In The Moment Program“, bude brzy zahájen a jeho cílem je vyvinout technologii založenou na umělé inteligenci, která pomocí algoritmů a dat umožňuje rychlé rozhodování ve stresových situacích. Základní myšlenka spočívá v tom, že odstranění lidských předsudků může zachránit životy, a projekt bude sloužit k vývoji a vyhodnocení spolehlivých algoritmických rozhodovacích mechanismů pro kritické operace ministerstva obrany (DoD) tak, aby byly schopny nahradit člověka při rozhodování, které nemá jedinou jednoznačnou odpověď.
Projekt ITM je teprve v počátcích a bude pravděpodobně trvat dlouho, než přinese výsledky, které by se daly využít ve válce, ale již nyní se objevují hlasy, které vyjadřují silné etické obavy ohledně používání algoritmů k rozhodování o životě a smrti. Zejména s ohledem na to, že umělé inteligence již prokázaly, že nejsou imunní vůči předsudkům, které přebírají od lidí, kteří je programují a vytvářejí data, na nichž jsou vyškoleny.
Zdroj: Ansa.it