Pozrite si
Vieru, že by budúce roboty s umelou inteligenciou regulovali svoje správanie podľa trojice fiktívnych zákonov robotiky Isaaca Asimova, sme už pomaly opustili. Umelá inteligencia (UI) sa napriek tomu bez etických a morálnych pravidiel správania nezaobíde.
Etika v biznise? Častý problém
Príkladom môžu byť autonómne autá 5. úrovne, ktoré sa budú musieť v kritických situáciách rozhodnúť, ako minimalizovať škody. Môžu nastať situácie, kedy bude musieť umelá inteligencia hľadať cestu „menšieho zla“ – napríklad ohroziť posádku, kvôli záchrane chodcov, alebo naopak, a podobne.
UI však preniká do rôznych oblastí a nájdeme ju aj v aplikáciách s menej dramatickým rozhodovaním. V posledných rokoch sa algoritmy s umelou inteligenciou veľmi zdokonalili v schopnosti odporúčať užívateľom multimediálny, alebo len textový obsah.
Technologické firmy používajú UI na optimalizáciu svojich odporúčaní na základe toho, ako používatelia reagujú na obsah. Je to dobré pre spoločnosti, ktoré obsah poskytujú , pretože tak dokážu viesť používateľov, aby trávili nad ich produktom viac času. Tým, samozrejme, generujú aj viac výnosov pre firmy.
Ale čo je dobré pre výrobcov, nemusí byť optimálne pre používateľov. A to aj napriek slobodnej voľbe výberu obsahu. To, čo chceme vidieť, nie je vždy pre nás prospešné. Tu vzniká pre tvorcov obsahu dilema: ako môžu firmy, ktorých príjmy závisia od sledovanosti, alebo čítanosti, rešpektovať etické normy a súčasne poskytovať kvalitný obsah svojim používateľom?
Bulvár s tým nemá najmenší problém, ale na jeho odporúčania nepotrebujeme umelú inteligenciu. Stačia nám algoritmy našich závislostí na senzáciách a rôznych pudovo podmienených vnemoch. Ako nám môže pomôcť UI?
Aký seriál by ste odporúčali?
Na riešenie tejto výzvy tím vedcov spoločnosti IBM Research v spolupráci s MIT Media Lab vyvinul techniku odporúčania umelej inteligencie, ktorá popri optimalizácii výsledkov pre používateľské preferencie zabezpečuje aj to, aby zostala v súlade s inými obmedzeniami, napríklad s etickými pravidlami.
Skupina pod vedením Francesci Rossi, vedúcej sekcie AI Ethics Global Research v spoločnosti IBM Research, demonštrovala funkčnosť UI v systéme odporúčania filmov, ktorý umožňuje rodičom stanoviť etické obmedzenia pre svoje deti.
Výskumníci si ako demo projekt vybrali práve odporúčania filmov, pretože existuje veľa údajov súvisiacich s filmom a je to oblasť, kde je jasne viditeľný rozdiel medzi užívateľskými preferenciami a etickými normami. Ak keď napríklad rodičia nechcú, aby deti pozerali určité nevhodné videá, deti môžu na ne reagovať pozitívne. To asi poznám všetci.
Škola pre umelú inteligenciu
V rámci učenia sa vhodným odporúčaniam absolvovala umelá inteligencia dvojfázový tréning. V prvej (offline) fáze školiteľ dáva systému príklady obmedzení, ktoré by mal systém odporúčaní dodržiavať. UI potom tieto príklady vhodného a nevhodného obsahu analyzuje spolu so súvisiacimi dátami a vytvára si vlastné etické pravidlá.
Čím viac príkladov a údajov UI v procese strojového učenia spracuje, tým lepšie pravidlá dokáže vytvoriť.
Druhá fáza tréningu prebieha online v priamej interakcii s používateľom. Podobne ako v tradičnom systéme odporúčaní, aj AI sa snaží optimalizovať svoje výsledky v súvislosti s preferenciami používateľa a zobrazuje obsah, na ktorý bude používateľ s väčšou pravdepodobnosťou reagovať.
Keďže splnenie etických obmedzení a preferencií používateľa môže byť niekedy (alebo skôr často) v konflikte, rozhodca môže stanoviť hranicu, definujúcu, akú prioritu dostane každé z kritérií. V demonštračnej aplikácii vytvorenej IBM si rodič môže nastaviť rovnováhu medzi etickými princípmi a preferenciami dieťaťa.
Odporúčacie systémy sa však zďaleka neobmedzujú na výber filmov, či iného obsahu. Výskumníci z IBM testovali možnosti využitia tejto techniky aj v zdravotníctve. Využili algoritmus na stanovenie optimálnej dávky lieku vytvorením rovnováhy medzi variáciami úspešnosti lieku a obmedzeniami kvality života v testovanom prostredí.
Autori výskumu prezentovali svoj algoritmus na 27. medzinárodnej spoločnej konferencii o umelej inteligencii 17. júla v Štokholme.
Zdroj