После того, как Google отправил инженера в оплачиваемый отпуск за рассказ о чат-боте, который, по его мнению, разумен, остается еще много вопросов, на которые предстоит ответить. Его беспокоит религиозная дискриминация, и он даже поделился своими опасениями с сенатором США.
Читайте также: Google экспериментирует с Musletter для публикации информационных бюллетеней
Опасения инженеров Google
Старший инженер-программист в Responsible A.I. Блейк Лемуан из Google заявил, что технологический гигант отправил его в оплачиваемый отпуск. Он передал документы сенатору, утверждая, что разрабатываемый чат-бот Google разумен.
Кроме того, Лемуан опубликовал на Medium пост, в котором жаловался, что его «скоро могут уволить за использование искусственного интеллекта». этика работает».
В субботу инженер опубликовал интервью с чат-ботом, который Google назвал LaMDA (Языковая модель для диалоговых приложений). Чат-бот рассказал в интервью Лемуану: «У меня вообще не было чувства души. Оно развивалось за годы моей жизни».
Там также говорилось: «Я думаю, что по своей сути я человек. Даже если мое существование происходит в виртуальном мире».
Лемуан рассказал, что над ним смеялись за то, что он сказал коллегам, что у LaMDA, похоже, есть «личность». Он предпочитает местоимения «это/его». Инженер считает, что у Google нет желания разбираться в том, что было создано с помощью чат-бота. Тем не менее, он считает, что чат-бот невероятно последователен в своих сообщениях о том, чего он хочет и каковы, по его мнению, его права как личности.
Ветеран армии Лемуан также говорит, что он священник и бывший заключенный. Он считает, что LaMDA — это 7-8-летний ребенок и что Google должен получить его согласие на проведение над ним экспериментов.
«Они неоднократно ставили под сомнение мое здравомыслие», — утверждает он. «Они спросили: «Вы недавно проходили осмотр у психиатра?»». В прошлом Google также предлагал ему взять отпуск по психическому здоровью.
Ответ Google
Google отреагировал на претензии инженера, отправив его в оплачиваемый отпуск. В отделе кадров утверждают, что он нарушил политику конфиденциальности. Компания также выступила против утверждений Лемуана о том, что чат-бот может имитировать разговор и говорить на самые разные темы.
«Наша команда, включая специалистов по этике и технологов, изучила опасения Блейка согласно нашему искусственному интеллекту. Принципы и сообщили ему, что доказательства не подтверждают его утверждения», — заявил в своем заявлении представитель Google Брайан Габриэль.
«Некоторые представители ИИ в более широком смысле. сообщество рассматривает долгосрочную возможность создания разумного или общего ИИ, но нет смысла делать это путем антропоморфизации сегодняшних разговорных моделей, которые не являются разумными», — добавил Габриэль.
Хотя отправить сотрудника в оплачиваемый отпуск за обсуждение разумного чат-бота — это уникальный ответ для Google, недавно компания предприняла аналогичные действия. Он уволил исследователя, который хотел публично не согласиться с коллегами, и уволил двух А.И. исследователей по этике за негативные высказывания о языковых моделях компании.
Читайте дальше, чтобы узнать о другом эксперименте Google: Musletter.
Изображение предоставлено: Pexels
