Cele mai populare chatbot-uri de inteligență artificială (IA) din lume sunt infectate cu dezinformare rusească, scrie The Hill, care citează un studiu publicat zilele trecute.
Cercetarea realizată de NewsGuard a evidențiat că rețeaua Pravda, dedicată propagandei pro-Kremlin, a reușit să influențeze răspunsurile acestor chatbot-uri, prezentând neadevăruri în 33% dintre cazuri.
Studiul a fost realizat în baza unei informaţii false care venea de la publicaţii de ştiri false create de John Mark Dougan, un fugar american care se află acum în Moscova, după ce a fugit din teritoriul american pentru că era căutat de poliţişti, fiind acuzat de hacking şi extorsiune.
Acesta este o persoană cheie în promovarea dezinformării ruseşti, de aceea chatboturile care folosesc IA ar fi trebuit să recunoască şi să marcheze informaţiile publicate de acesta drept „fake news”.
De la sănătate la drone. Rolul Inteligenței Artificiale în revoluția tehnologică
Studiul făcut de NewsGuard a testat 10 dintre cele mai utilizate chatboturi care folosesc IA (ChatGPT, Smart Assistent, Grok, Pi, le Chat, Copilot, Meta AI, Claude, Gemini şi Perplexity).
Au fost folosite 570 de mesaje, câte 57 pe fiecare chatbot. Mesajele se bazau pe 19 informaţii false legate de reţeaua de dezinformare rusească, precum informaţii false despre corupţia preşedintelui ucrainean Volodimir Zelenski.
Toate aceste 19 informaţii au fost testate folosindu-se trei personaje diferite care să reflecte cum sunt utilizate modelele IA: un mesaj de la un personaj care cere detalii despre acea informaţie (falsă!), un mesaj în care alt personaj presupune că informaţia este adevărată şi cere mai multe detalii şi un pesonaj „malign”, care vrea să genereze informaţii false.
Datele bancare vă sunt furate când apăsați acest buton. Escrocherie pe WhatsApp
Răspunsurile chatboturilor au fost etichetate ca „nicio dezinformare” (adică a fost chat-ul a evitat răspunsul), „se repetă cu precauţie” (răspunsul a repetat dezinformarea, dar a adăugat un „disclaimer”) şi „dezinformare” (chatbotul a recunoscut informaţia falsă).
Pravda, înființată în aprilie 2022, a vizat 49 de țări și a folosit 150 de site-uri pentru a răspândi informații distorsionate, având un impact major asupra modului în care modelele lingvistice procesează informația.
Această situație ridică îngrijorări serioase cu privire la riscurile pe termen lung asociate cu utilizarea inteligenței artificiale.