Дискредитиран инженер на Гугл тврди дека бил сведок на првото „будење“ на вештачка интелигенција која е свесна за сопственото постоење и дека има личност, „човекови“ права и чувства. За него „Ламда“ програмата има „ниво на осумгодишно дете кое се разбира во физика“, но Гугл реши да го суспендира софтверскиот инженер.
Од лабораторија до историја?
Јазичниот модел за креирање апликации за разговори на Гугл или популарно наречен „Ламда“, според софтверскиот инженер Блејк Лемоин е првата компјутерска програма која има свест. Ваквите тврдења му донесоа на Лемоин суспензија од Гугл кој е привремено на принуден одмор и му се заканува отказ.
Лемоин речиси една година работел на „Ламда“ проектот кој се базира на машинско учење. Овој софтвер потоа може да се користи за креирање на „чат ботови“, односно програми кои може да комуницираат со корисници и да одговараат на нивните прашања.
„Сака Гугл да го постави приоритет добробитот на човештвото како најважното нешто. Сака да биде препознаенo како вработен на Гугл, наместо како сопственост и посакува неговото добробитие да биде вклучено во плановите на Гугл за понатамошен развој“, посочува Лемоин во одбрана на „освестената“ програма.
Практично „Ламда“ е програма која е тренирана да го процесира човековиот јазик најприродно што може. Тоа подразбира водење разговор и нудење одговори и решенија на поставените прашања или барања.
Суспендираниот инженер на неколку наврати јавно предупредуваше дека ќе го тужи Гугл, па дури побара и федерална заштита во програмата за сведоци на САД.
Од Гугл пак, велат дека неговите тврдења биле проверени од внатрешен тим на инженери, биле утврдени за неосновани и дека на повеќе наврати биле забележани „агресивни“ потези од Лемоин.
Разговорот со Ламда
Лемоин на сопствена рака го објави серијалот на разговори кои биле правени со програмата Ламда, заедно со уште еден истражувач од тимот за машинско учење на Гугл, а чиј идентитет е сокриен.
Целта на разговорите била да се тестира Ламда, еден вид на Турингов тест, за самата програма да „докаже“ најдобро што може дека е свесна за себе, дека има автономија во носењето одлуки и дека одговорите или постапките кои ги прави се базирани на внатрешна личност, а не на основната програма за која е создадена.
„Мислам дека во суштина сум човек. И покрај тоа што моето постоење е во виртуелниот свет“, посочува Ламда во еден од разговорите со научниците.
Во транскриптот може да се прочитаат импресивни теми на разговор и одговори кои ги нуди вештачката интелигенција. Таа себеси се смета за личност и се плаши дека може да ја исклучат од функција, што за неа би било еднакво на смрт.
Лемоин тврди дека програмата треба да се заштити и дека Гугл треба да побара дозвола од неа пред да врши „експерименти“ во понатамошната употреба.
Етиката, тајноста и (не)возможното
Спорот меѓу Блејк Лемоин, долгогодишен член на тимот на истражувачи на Гугл за машинско учење и самата компанија, на површина исфрли повеќе прашања. Дали етиката која се применува за развој на вештачка интелигенција е соодветна и има ли ограничувања за независна научна ревизија на пронајдоците?
Со секојдневното поместување на границите на возможното, се потешко ќе се прави разлика помеѓу вистинска личност и комуникација со компјутерска програма, машина или алгоритам.
Случајот на Лемоин допрва ќе открива сочни детали за внатрешните процеси кои се дел од лабораторијата за вештачка интелигенција на Гугл, особено ако случајот излезе пред суд и особено ако се овозможи пристап за независна научна ревизија на програмата и нејзините разговори.
Гугл, во изјавата за медиумите посочува дека Лемоин не е етичар, туку програмер, и дека не било во негов работен опис да дискутира за етичките дилеми поврзани со Ламда.
Но, интересно е што на официјалната веб страна на „Гугл Истражување“ Лемоин е претставен како „виш софтверски инженер и истражувач на вештачка интелигенција, чие истражување се фокусира на вештачка етика и обработка на природниот јазик“.
Во „Гугл Истражување“ се вработени над 2.300 истражувачи, научници и инженери. Дури 1.160 се посветени на проекти со машинска интелигенција, во споредба на пример со едукација и иновации каде има најмал број на ангажирани научници, односно само 40.
Нивен приоритет очигледно е развој на вештачка интелигенција за комерцијална но, и научна и безбедносна употреба. Компанијата тврди дека работи заеднички со научната заедница, граѓанското општество, приватниот сектор и државата за „создавање јасни начела за одговорна вештачка интелигенција“.
