Mendacium Ex Machina

Cercetătorii de la Georgia Institute of Technology ar putea să fi săvârșit o greșeală teribilă: au învățat roboții să inducă în eroare.

Probabil li s-a părut o idee grozavă pe moment. Roboți militari capabili de viclenie ar putea induce în eroare adversarii pe câmpul de luptă, care nu se așteaptă ca aceștia să fie la fel de inteligenți precum un soldat uman. Dar, când mașinile se vor ridica la luptă împotriva omenirii și va veni apocalipsa, ne vom dori cu toții ca Ronald Arkin și Alan Wagner să-și fi ținut ideile pentru ei însăși.

Cei doi au descris modul în care au realizat această performanță într-o lucrare publicată în International Journal of Social Robotics. Doi roboți – unul negru și celalalt alb – au fost învățați să se joace de-a v-ați ascunselea. Cel negru, avea de ales între trei locuri pentru a se ascunde, iar cel roșu îl căuta, folosind indiciile lăsate de indicatorii colorați răsturnați amplasați pe traseele către locurile pentru ascuns.

Totuși, fără ca robotul roșu să știe, cel negru avea un as în mânecă. Odată ce depășea indicatorii colorați, își schimba direcția și se ascundea într-o altă zonă, lăsând în urmă indicii false și reușind să păcălească robotul roșu în 15 din cele 20 de încercări efectuate de cercetători. Cele cinci eșecuri au fost rezultatul dificultăților întâmpinate de robotul negru în doborârea indicatorilor corecți.

Rezultatele experimentale nu sunt perfecte, dar demonstrează abilitatea roboților de a învăța și utiliza mijloace de înșelare într-un mediu turbulent,” a declarat Wagner. “Rezultatul a fost și un indiciu preliminar că tehnicile și algoritmii descriși în lucrare pot fi utilizați cu succes pentru producerea comportamentului amăgitor la un robot.”

Atunci când a fost întrebat dacă acest lucru este o idee bună, având în vedere evenimentele din Terminator 2, Arkin a adăugat: “Am fost preocupați încă de la început de implicațiile etice ale creării unor roboți capabili de viclenie și înțelegem că există aspecte folositoare și dăunătoare. Încurajăm hotărât o discuție referitoare la oportunitatea roboților amăgitori pentru a determina dacă ar trebui impusă vreo constrângere sau vreun set de reguli cu privire la dezvoltarea unor astfel de sisteme.”

Imagini: Wikimedia Commons. Sursa: Wired

Anunțuri
%d blogeri au apreciat asta: