A Ginevra è in corso una delle trattative diplomatiche più delicate degli ultimi anni. Ben 128 stati stanno discutendo sull’ipotesi di porre delle regole sull’uso di armi autonome letali, cioè sistemi basati sull’intelligenza artificiale capaci di selezionare e colpire obiettivi senza alcun intervento umano. L’urgenza è reale, perché le armi autonome non sono più solo fantascienza futura, ma una realtà già presente in operazioni militari come quella di Israele nella Striscia di Gaza, dove il loro utilizzo solleva interrogativi pesanti sui diritti dei civili e sull’impossibilità di attribuire responsabilità in caso di violazioni.
Il nodo centrale del negoziato è politico prima ancora che tecnico. Dal 2018 il Segretario Generale dell’ONU António Guterres definisce questi sistemi “politicamente inaccettabili e moralmente ripugnanti”, chiedendo che vengano vietati entro la fine del 2026. Ma la scadenza sembra sempre più difficile da rispettare e i principali investitori in sistemi autonomi, tra cui Stati Uniti e Russia, si oppongono a nuovi vincoli giuridici, sostenendo che le leggi esistenti siano già sufficienti. Anche Anthropic, l’azienda produttrice di Claude, si è trovata al centro della polemica dopo che il Pentagono ha fatto pressioni per modificare i termini d’uso del suo modello. La società ha risposto che “i sistemi di AI avanzati non sono abbastanza affidabili per alimentare armi completamente autonome” e che le salvaguardie per proteggere i civili “oggi non esistono”.
Il rischio concreto, se i negoziati dovessero fallire, è che le decisioni di vita o di morte prese in contesti bellici vengano sempre più affidate in futuro ad algoritmi senza controllo umano e senza un quadro chiaro sull’attribuzione di responsabilità.
Il Generale dell'aeronautica USA: "La posizione di Anthropic contro il Pentagono? Ragionevole"
"La vicenda andava gestita in silenzio, dietro le quinte"
