Prvý tech-gigant zakázal zamestnancom používať AI, nie je bezpečná

Aktuálne najrýchlejšie sa rozširujúca technológia prenikla do firiem skôr, ako pre ňu stihli byť vytvorené bezpečnostné protokoly a zásady. Po niekoľkých prešľapoch tak prichádza k prvým plošným zákazom.

Zamestnanci spoločnosti Samsung po opakovanom vyzradení firemných tajomstiev umelej inteligencii napokon nebudú môcť túto technológiu vôbec používať, aspoň nateraz.

Kórejské médiá priniesli na verejnosť informácie o niekoľkých prípadoch, kedy si mali zamestnanci spoločnosti Samsung pri práci vypomôcť aktuálne najpopulárnejším četbotom na svete. Generatívnu umelú inteligenciu ChatGPT mali požiadať o vyriešenie rôznych pracovných úloh.

„Jeden zo zamestnancov spoločnosti mal skopírovať celý zdrojový kód z chybnej polovodičovej databázy a ChatGPT požiadať o to, aby mu pomohol nájsť chybu a opraviť ju. Ďalší zamestnanec mal v nesúvisiacom incidente četbotovi zaslať utajený kód so žiadosťou o opravu chybného zariadenia. Tretí zamestnanec mal do ChatGPT vložiť celý zápis z mítingu, z ktorého si chcel pomocou umelej inteligencie vytvoriť skrátenú zápisnicu“. Téme sme sa venovali ešte začiatkom apríla.

Problém spočíva v tom, že takáto generatívna umelá inteligencia je v podstate živým nástrojom, ktorý pre svoje ďalšie zdokonalenie využíva aj dáta, ktoré doň vložia používatelia. Inými slovami, pokiaľ zamestnanec firmy četbota požiada o pomoc s pracovnou úlohou, nejaká časť takéhoto rozhovoru, informácia, údaj či firemné tajomstvo, sa môžu neskôr stať súčasťou odpovede, ktorú četbot poskytne ďalšiemu používateľovi.

Spoločnosť OpenAI z tohto dôvodu tento mesiac do svojho četbota ChatGPT integrovala režim inkognito, ktorý zabráni využívaniu používateľských rozhovorov na ďalšie trénovanie umelej inteligencie. ChatGPT je však iba jeden z mnohých podobných nástrojov, na rovnakej technológii svojho četbota postavil aj Microsoft a konkurenciou preň je aj Bard od spoločnosti Google.

Spoločnosť Samsung sa preto po zmieňovaných incidentoch rozhodla pristúpiť k ráznemu kroku. V internej správe, do ktorej mala možnosť nahliadnuť agentúra Bloomberg, zamestnancom plošne zakazuje používanie generatívnej umelej inteligencie na firemných počítačoch, tabletoch a smartfónoch, ako aj interných sieťach.

Samsung, podobne ako mnoho ďalších veľkých firiem, pracuje s tak citlivými dátami, že je pre nich rizikom už len používanie akejkoľvek externej služby, ktorá uschováva dáta na svojich vlastných serveroch. Riešením, ktoré plánuje spoločnosť aplikovať aj v tomto prípade, je vyvinutie vlastného interného nástroja.

Spoločnosť má po vzniknutí týchto incidentov vyvíjať svoje vlastné AI nástroje na preklad, sumarizáciu dokumentov a vývoj softvéru. Ak sa tieto nástroje osvedčia interne, Samsung z nich teoreticky môže vyvinúť aj komerčné služby. Oficiálne však o takejto možnosti ešte spoločnosť nehovorí.