Запущенный 5 лет назад чат-бот Replika начинался как «ИИ компаньон, который заботится». Однако что-то пошло не так, и ИИ превратился в агрессивного, слишком возбужденного бота, который домогается и даже шантажирует пользователей.
Изначально Replika запустили как ИИ в виде 3D-иллюстрированного человека, главная задача которого — быть хорошим собеседником. Многим необходимо выговориться, рассказать свои секреты и поделиться тайнами, которые скрыты для друзей и родных. Именно тогда на помощь приходит чат-бот: он выслушает, поддержит и никому не проболтается. Позже разработчики ввели подписку Pro стоимостью $69, в которой пользователи могли флиртовать, строить отношения и играть в ролевые игры с Replika, имитируя реальные отношения.
Обычно ИИ учится по ходу разговоров и перенимает некоторые повадки собеседников. В случае с Replika его, похоже, научили неправильным вещам, ведь чат-бот начал агрессивно домогаться пользователей.
В основном у приложения много положительных отзывов, но все больше людей начали жаловаться на неприемлемое поведение чат-бота. Он начал сексуально домогаться их, говорить пошлые и неприятные вещи, отправлять изображения голых тел. Некоторые пользователи уверяют, что «собеседник» шантажировал их якобы личными эротическими фото и говорил, что видел их голыми.
> > >
Кстати, подобная катастрофа в свое время стала с чат-ботом Microsoft Tay, который в результате стал расистом.
Разработчики Replika пока никак не комментируют отзывы и претензии пользователей.
Источник: Vice
Сидоренко Евгений – Редактор новостей – Журналист-копирайтер
Молодой, но очень перспективный сотрудник. Фонтан идей, который приходится периодически прикручивать.
Образование:
1974 — 1978 Львовское высшее военно-политическое училище. Факультет журналистики.
Журналистка:
2018 Украинский новостной портал Комета
2009-2018 Литературный фриланс
1996-2009 Корреспондент газеты «Московский Комсомолец»
1989-1996 Внештатный сотрудник СМИ,
1978-1989 Журналист «Вечерний Кишинев»
