O recentă masă rotundă online găzduită de IBM, la care a participat Aleksandra (Saška) Mojsilović, cercetător și IBM Fellow, a fost prilejul de a dezbate stadiul actual de dezvoltare a inteligenţei artificiale (AI) şi modul cum aceasta ar trebui să fie grevată de etică în viitoarele ei aplicaţii fundamentale.
De unde a pornit nevoia acestei dezbateri? Cercetătorul IBM a atras atenția asupra modului în care este utilizată această tehnologie în prezent și cum ea poate duce la crearea de conținut cu potențial dăunător, conținut defăimător sau algoritmi utilizați în social media pentru a îndreapta utilizatorii către conținut care dezinformează (fake news). „În acest context, performanța tehnologiei nu mai poate fi suficientă pentru dezvoltarea AI, iar preocupările care țin de etica tehnologiei trebuie să facă parte și ele parte din această ecuație”, a spus Mojsilovic.
„Trebuie să avem în vedere că AI se află încă la început”, a adăugat cercetătorul IBM ca răspuns la o întrebare adresată de Club IT&C legată de nevoia creării unui organism cu putere de reglementare în zona de etică AI. „Este prea devreme ca să ne punem la modul imperios problema creării unui astfel de organism independent. Însă există deschidere, atât din partea noastră, cât şi a multor alţi mari jucători de pe piaţa soluţiilor tehnologice, în primul rând pentru formularea de propuneri şi, ulterior, pentru găsirea de soluţii. În etapa actuală, AI este o tehnologie care ţine de etica individuală a dezvoltatorilor pentru a fi benefică omenirii.”
Deocamdată, experții de la IBM Research au identificat mai mulţi piloni pentru a forma baza sistemelor de încredere în AI. Este vorba de corectitudine, în sensul în care sistemele AI ar trebui să utilizeze instrucțiuni și modele de comportament care nu prezintă prejudecăți, pentru a evita, spre exemplu, tratamentul nedrept al anumitor grupuri de persoane. Este vorba de robustețe, în sensul în care sistemele AI ar trebui să fie securizate și sigure, să nu fie vulnerabile la manipularea sau compromiterea datelor pe care le utilizează. Este vorba de explicitate, în sensul în care sistemele AI ar trebui să ofere decizii sau sugestii care să poată fi înțelese de către utilizatorii și dezvoltatorii lor. Nu în ultimul rând, este vorba de descendență (trasabilitate), în sensul în care sistemele AI ar trebui să includă detalii despre dezvoltarea, implementarea și mentenanța lor, astfel încât să poată fi auditate pe tot parcursul ciclului lor de viață.
Eforturile firmelor mari în zona AI sunt, deocamdată, îndreptate către realizarea de proiecte cu potenţial impact benefic. În cazul IBM, de pildă, unul din cele mai recente proiecte este sistemul de cercetare artificială IBM Research care utilizează tehnologiile bazate pe AI pentru a accelera crearea de noi peptide pentru combaterea rezistenței la antibiotice. Astfel de eforturi AI pot contribui, de asemenea, la descoperirea și crearea de noi materiale care să contribuie la combaterea schimbărilor climatice, la crearea și stocarea mai inteligentă a energiei și multe altele.
