Informație

Cercetătorii găsesc că puteți instrui AI pentru a crea discursuri false ale ONU în mai puțin de 13 ore

 Cercetătorii găsesc că puteți instrui AI pentru a crea discursuri false ale ONU în mai puțin de 13 ore

Noile cunoștințe din lumea inteligenței artificiale (AI) par să se întindă întotdeauna la marginea înfiorătorului și „asta este fascinant”. AI și aplicația sa se răspândesc în nenumărate industrii și medii.

AI și tehnicile sale de învățare profundă au fost folosite pentru a crea artă, a detecta cancerele, a genera fețe și chiar a vocilor umane reale. Acum, în era viitoare a apocalipsei AI, noile cunoștințe ne-au aruncat o privire asupra a ceea ce poate face noua învățare profundă într-o serie de domenii, inclusiv politica.

ÎN LEGĂTURĂ: CARE ESTE DIFERENȚA ÎNTRE ÎNVĂȚAREA MAȘINILOR ȘI AI?

Ideea unui politician AI ar putea suna ca ceva dintr-un sezon de nivel B al unei emisiuni de televiziune science fiction sau să vă amintească de Bran the Breaker care a luat tronul de fier în Game of Thrones (Gândiți-vă la asta. El este practic un sistem AI). Dar este de fapt o posibilitate reală.

Recent, cercetătorii de la Global Pulse al Organizației Națiunilor Unite au decis să afle cât de ușor a fost pentru oricine să folosească tehnici de învățare profundă relativ ușoare pentru a forja dezinformarea convingătoare. Rezultatele vă pot șoca.

Răspândirea dezinformării cu inteligență artificială

Ca parte a unui studiu publicat recent la Universitatea Cornell, cercetătorii au folosit instrumente open-source și o mare colecție de date pentru a arăta cât de repede ar putea pune în funcțiune un generator de vorbire fals ONU. Cum au făcut-o?

Echipa a obținut un model de limbă ușor disponibil. Acest model utilizat în mod obișnuit a fost instruit pe Wikipedia și, ulterior, a alimentat 40 de ani de discursuri susținute de liderii politici la Adunarea Generală a ONU.

Cu cel puțin 7,80 dolari cheltuiți pentru servicii cloud și puțin mai mult de o jumătate de zi (doar 13 ore), politicianul lor în AI a lansat discursuri care ar fi suficient de puternice pentru a angaja mulțimile la ONU astăzi. Generatorul de vorbire a creat discursuri care au variat de la subiecte sensibile și cu mize mari, inclusiv dezarmarea nucleară și schimbările climatice.

Pentru cercetare, cercetătorii au testat modelul pe trei tipuri de solicitări: subiecte generale, linii deschise din observațiile secretarului general al ONU și fraze inflamatorii. Modelul de învățare profundă a reușit chiar să reducă cadența discursurilor reale ale ONU 90% a timpului.

Dar de ce?

Deci, de ce este importantă această cercetare? Tehnicile AI sunt mai accesibile ca niciodată. Și, există o șansă bună în viitorul apropiat, cu resurse puține sau deloc, oamenii ar putea crea discursuri AI și conținut politic pentru a răspândi dezinformarea sau pur și simplu să o folosească pentru câștiguri politice. Această cercetare este un apel pentru a depune mai mult efort în detectarea și răspunsul la conținutul generat de AI.


Priveste filmarea: Week 4 (Octombrie 2021).