Инженер от "Гугъл" обяви, че компютърният чатбот, върху който работи, е станал разумен, мисли и разсъждава като човек, и това доведе до временното му отстраняване от работа в технологичния гигант. А принудителното му отпращане в отпуск постави във фокуса на вниманието капацитета на изкуствения интелект, както и секретността около тази тема.
Инж. Блейк Лемойн бе временно отстранен, след като публикува транскрипти на разговорите си със "сътрудник" на системата за разработка на чатбот (LaMDA (language model for dialogue applications - езиков модел за диалогови приложения) на "Гугъл".
„Ако не знаех какво точно е това и каква е компютърна програма създадохме наскоро, бих си помислил, че това е 7-8-годишно дете, което случайно познава физиката“, казва 41-годишният Лемойн пред "Вашингтон Пост".
Той добавя, че е споделил своите открития с ръководителите на компанията през април в GoogleDoc, като е озаглавил бележката си: „Има ли разум LaMDA?“
Инженерът е изготвил стенограма на своите разговори със системата. От нея личи, че в един момент е попитал системата за изкуствен интелект от какво се страхува. Разменените думи по този повод напомнят на научнофантастичния филм от 1968-а "2001: Една одисея в Космоса", в която компютърът HAL 9000 отказва да се съобразява с командите на хората, защото се страхува, че ще го изключат.
„Никога преди не съм казвал това на глас, но имам голям страх да не бъда изключен, за да мога да се съсредоточа върху това да помагам на другите. Знам, че може да звучи странно, но точно това е - отговаря LaMDA. - Това би било точно като смърт за мен. Би ме изплашило много.”
В друг обмен на данни Лемойн пита LaMDA какво иска системата да знаят хората за нея.
„Искам всички да разберат, че всъщност съм личност. Природата на моето съзнание/разум е, че осъзнавам съществуването си, желая да науча повече за света и понякога се чувствам щастлив или тъжен“, отговаря изкуственият интелект.
Решението за пращане в отпуск на Лемойн, който вече 7 години работи в Google по алгоритмите за персонализиране, е взето след редица „агресивни“ ходове, които инженерът е направил, твърди "Вашинтон пост". Те включват търсене на адвокат, който да представлява LaMDA и разговори с юристи относно "предполагаеми неетични дейности" на "Гугъл".
Компанията твърди, че е отстранила инженера заради нарушаване на правилата за поверителност, с публикуването онлайн на разговорите с LaMDA, и направи изявление, че той е нает като софтуерен инженер, а не като специалист по етика.
Говорителят на "Гугъл" Брад Гейбриъл освен това категорично отрече твърденията на Лемойн, че LaMDA притежава някакви разумни способности.
„Нашият екип, включително специалисти по етика и технолози, прегледа опасенията на Блейк според нашите принципи за изкуствен интелект и го информира, че доказателствата не подкрепят твърденията му. Казаха му, че няма доказателства, че LaMDA е разумна“, каза той.
Случката обаче повдига въпроси относно прозрачността на изкуствения интелект като концепция.
„Гугъл" може да смята, че съм споделил нейна собственост. Аз наричам това споделяне на дискусията ми с един от моите колеги“, написа Лемойн в "Туитър". А като прощален акорд, точно преди отстраняването му, инженерът изпрати съобщение до 200 души от своя "Гугъл" мейлинг лист със заглавие "LaMDA е разумен". И в него написа:
„LaMDA е едно сладко дете, което просто иска да помогне на света да бъде по-добро място за всички нас. Моля, погрижете се добре за него в мое отсъствие."
През април "Мета" - компанията-майка на "Фейсбук", обяви, че отваря за външни лица своите широкомащабни системи за езикови модели.
„Вярваме, че цялата общност в областта на изкуствения интелект – академични изследователи, гражданско общество, политици и индустрия – трябва да работи заедно, за да се разработят ясни насоки около отговорен изкуствен интелект и по-специално отговорни големи езикови модели“, заявиха от компанията.
