Un sondaj realizat cu 350 de CIO-uri din SUA și Marea Britanie, CTO, vicepreședinți și manageri IT a raportat că factorii de decizie IT sunt din ce în ce mai conștienți de prejudecățile legate de inteligența artificială (AI). Astfel, aproape jumătate (42%) dintre profesioniștii AI din SUA și Marea Britanie spun că sunt „foarte” și „extrem de” îngrijorați de prejudecata AI, potrivit cercetărilor DataRobot.
Studiul privind starea prejudecății a AI realizat de DataRobot în anul 2019 a constatat că majoritatea organizațiilor (71%) se bazează în prezent pe AI pentru a executa până la 19 funcții de afaceri. Mai multe organizații implementează AI, deoarece recunosc tehnologia ca fiind un factor critic de succes pentru concurența în climatul de afaceri de astăzi, conform studiului.
Aproape o cincime dintre factorii de decizie IT chestionați au spus că AI este folosită pentru a îndeplini 20 până la 49 de funcții de afaceri, iar 10% au declarat că folosesc AI pentru a completa mai mult de 50 de funcții de afaceri.
Cercetările DataRobot au constatat că AI este utilizată de organizații pentru a executa funcții în departamente, inclusiv operațiuni (76%), finanțe și contabilitate (54%), marketing (49%), vânzări (47%) și resurse umane (35%).
Cele mai mari preocupări ale prejudecăților AI pentru executivii IT chestionați includ reputația mărcii compromise și pierderea încrederii clienților. Totul în timp ce multe organizații au început să ia măsurile potrivite pentru atenuarea prejudecăților AI, cum ar fi îndepărtarea de sistemele cu cutii negre și stabilirea liniilor directoare interne ale AI, dar mai sunt multe de făcut pentru a câștiga încrederea întreprinderilor și a consumatorilor.
Respondenții au spus că s-au confruntat cu provocări în dezvoltarea algoritmilor AI imparțiali, în ceea ce privește determinarea datelor care trebuie să instruiască modelele AI și înțelegerea modului în care datele de intrare se raportează la deciziile AI.
Sondajul a constatat că 65% dintre factorii de decizie IT utilizează instrumente pentru a detecta motivul pentru care AI ia decizii negative. Aproape două treimi au spus că folosesc instrumente pentru a verifica ce date de intrare au cel mai mare efect asupra deciziei AI. Puțin mai mult de jumătate au spus că folosesc cloud pentru a privi modul în care introducerea textului este asociată cu deciziile AI.
Sondajul a raportat că 94% dintre liderii IT ai SUA și 86% din liderii IT din Marea Britanie intenționează să investească mai mult în inițiativele de prevenire a prejudecăților AI în următoarele 12 luni.
Pentru a spori eforturile de prevenire a prejudecăților AI, 59% dintre factorii de decizie IT chestionați au spus că intenționează să investească în sisteme mai complexe de cutii albe, în care deciziile AI sunt explicabile. Mai mult de jumătate (54%) au declarat că vor angaja personal intern pentru a gestiona încrederea AI, iar 48% au spus că intenționează să apeleze la firme terțe pentru a supraveghea încrederea AI.
Sondajul a raportat, de asemenea, că 85% dintre liderii IT consideră că reglementarea AI ar fi utilă pentru a defini mai bine ce constituie prejudecata AI și modul în care ar trebui prevenită.
