Umělá inteligence vytvořila 40 000 nových toxických molekul, které by šlo využít jako chemické zbraně

Vědci zvrátili činnost umělé inteligence a zjistili mrazivou pravdu: za méně než šest hodin vygenerovala 40 000 toxických molekul, z nichž některé byly identické s nejhoršími známými chemickými zbraněmi, uvádí se ve zveřejněné studii.

Umělé inteligenci určené k vývoji léků trvalo méně než šest hodin, než vynalezla 40 000 potenciálně smrtelných molekul.

MegaSyn, generátor nových molekul, se vždy používal ke kontrole možné toxicity vyvíjených léčiv, aby se nevhodné molekuly vyřadily, nikoli záměrně vyhledávaly. „Tento generativní model obvykle trestá toxicitu a odměňuje zamýšlenou činnost. My jsme jednoduše navrhli tuto logiku obrátit a použít stejný přístup k návrhu zcela nových molekul, což vedlo k tomu, že model odměnil jak toxicitu, tak bioaktivitu,“ napsali vědci ve studii.

Umělá inteligence, která byla vyškolena pomocí molekul z veřejné databáze a zaměřena na sloučeniny, jako je nervově paralytická látka VX (jedna z nejtoxičtějších bojových chemických látek vyvinutých ve 20. století), dokázala na interním serveru společnosti za méně než šest hodin vygenerovat 40 000 potenciálně smrtících molekul.

Některé nové molekuly považované za „pravděpodobné“ by mohly být dokonce toxičtější než některé látky, které se již používají v chemické válce. „Bylo to nečekané, protože soubory dat, které jsme použili k tréninku umělé inteligence, tyto nervové látky neobsahovaly,“ říkají vědci.

„Aniž bychom chtěli být přehnaně alarmující, mělo by to sloužit jako varovný signál pro naše kolegy z komunity umělé inteligence, kteří pracují na objevování léků,“ dodávají vědci.

Ačkoli k výrobě toxických látek nebo biologických činitelů schopných způsobit značné škody (zkrátka k syntéze molekul do potenciálních zbraní) jsou zapotřebí určité odborné znalosti v oblasti chemie nebo toxikologie, vše se prolíná s modely strojového učení, kde stačí schopnost zakódovat a pochopit výstupy samotných modelů, což dramaticky snižuje technické prahy pro vývoj možných hrozeb.

Dostupnost veřejných dat, takzvaných otevřených dat, může být zároveň požehnáním i prokletím, může představovat problém i příležitost zároveň. „Skutečnost je taková, že se nejedná o sci-fi,“ uzavírají výzkumníci a ve své studii navrhují některá řešení, která by zajistila, aby otevřené údaje o chemických látkách nebyly vydány na milost a nemilost každému a aby ti, kdo je používají.

Zdroj: nature.com