AI měla rozhodovat, koho zabít. Rusové vyvíjeli autonomní roj vražedných dronů

Společnost Anthropic popsala případ ruské skupiny, která s pomocí jejího modelu Claude vyvíjela autonomní roj kamikadze dronů. Systém měl být schopen sám vyhodnotit cíl a vydat příkaz k detonaci, aniž by do tohoto rozhodnutí musel zasahovat člověk. Jde o další z bezpečnostních incidentů, které popsala alarmující zpráva firmy Anthropic a na základě které její šéf Dario Amodei vyzval ke zpomalení vývoje pokročilých modelů umělé inteligence. Tento případ je obzvlášť závažný proto, že se jedná o přímé instruování AI k likvidaci člověka. Číst dále