Imagine: pixabay.com (Commons Creative – free)
Pe măsură ce ne uităm la roboți, la vehicule autonome, la mașini cu Inteligență Artificială și la altele asemenea care pătrund încet (și uneori rapid) în lumea noastră, nu putem să nu ne îngrijorăm. Astfel, chiar și cei care nu se uită la filme SF, pot vedea posibilitatea ca roboții și mașinăriile cu Inteligenţă Artificială să folosească logica computerizată pentru a elimina singurul lucru care i-ar putea opri în a deveni stăpâni: oamenii, iniţiind astfel o „apocalipsă a roboților”.
Ţinând cont de acest lucru, câţiva informaticieni din California au dezvoltat un algoritm care antrenează roboții să evite întotdeauna deciziile de eliminare a oamenilor și să rămână „ascultători”. Cât de bine va funcționa asta?
„Vrem să promovăm o Inteligenţă Artificială care respectă valorile utilizatorilor săi umani și justifică încrederea pe care o acordăm sistemelor autonome” – a spus Emma Brunskill, profesor asistent de informatică la Stanford și autor principal al lucrării „Prevenirea comportamentului indezirabil al mașinilor inteligente”. Astfel, Emma îşi imaginează Inteligența Artificială ca un instrument pentru binele omenirii, și descrie algoritmul pe care ea și colegii ei l-au proiectat pentru a îndeplini acest obiectiv.
Ideea este de a descrie matematic deciziile și comportamentele greşite ale Inteligenţei Artificiale.  În concluzia lucrării despre utilizarea algoritmilor de învățare automată pentru a schimba comportamentul robotului, apare acel cuvânt „probabilitate”. Algoritmul nu este o garanție 100% a prevenirii apocalipsei roboților și chiar dacă ar fi, depinde de oamenii care îl folosesc în toate aplicațiile.
Stephen Hawking, unul dintre cei mai străluciți oameni ai timpurilor noastre, spunea că Inteligența Artificială reprezintă o „amenințare existențială” pentru oameni. Ar putea Inteligența Artificială combinată cu robotica să creeze o mașină care ar putea fi superioară din toate punctele de vedere oamenilor? Ce s-ar întâmpla dacă aceste „dispozitive” decid că vor să controleze lumea? Renunțarea la oameni nu ar fi un lucru greu de decis.
Inteligenţa Artificială nu este despre un computer care execută un program fix. Este vorba despre un computer care învață singur cum să facă ceva ce nu a experimentat. Acestea sunt mașini care învață. Suntem condamnati?
Sursa (traducerea şi adaptarea proprie): articolul ştiinţific „Preventing undesirable behavior of intelligent machines” / science.org