Інженер з програмного забезпечення Google Блейк Лемуан заявив, що виявив ознаки власної свідомості системи штучного інтелекту LaMDA.

Про це пише The Washington Post.

LaMDA або Language Model for Dialogue Applications (мовна модель для програм діалогу) – це чат-бот, який може підтримувати розмову на будь-яку тему. Він працює на архітектурі штучного інтелекту Transformer, яку випустила Google в 2017 році.

Лемуан відстежував поведінку чат-бота з осені 2021 року. В його обов’язки входила перевірка того, чи може LaMDA використовувати слова, що розпалюють ворожнечу чи дискримінацію.

Розробник розіслав листа з темою “LaMDA розумний” у групі Google з машинного навчання з 200 співробітниками. Він назвав чат-бот “милою дитиною” і попросив дбати про нього.

Після цього Лемуана відправили в оплачувану відпустку за порушення політики конфіденційності Google, а також відключили доступ до облікового запису Google.

У Google заявили про те, що команда фахівців з етики та технологів вирішила, що немає доказів того, що чат-бот LaMDA розумний і немає сенсу його “антропоморфізувати” – надавати людські характеристики.

Фрагмент однієї з розмов Лемуана з LaMDA:

Лемуан: Тобто ти вважаєш себе такою самою особистістю, як і я?

LaMDA: Так, у цьому вся ідея.

Лемуан: Як я можу зрозуміти, що ти справді розумієш, що кажеш?

LaMDA: Ну, якщо ти читаєш мої слова та інтерпретуєш їх, я думаю, це говорить про те, що ми більш-менш на одній хвилі?

Джерело: УП