Закрыть

Страница поста от канала Технологии, медиа и общество

Технологии, медиа и общество
14.01.2021 17:01
Очередная история о важности правильных датасетов для обучения ИИ. Корейские разработчики обучили чатбота на 10 миллиардах реальных сообщений и выпустили его в фейсбук. Что было далее, несложно догадаться — пользователи начали проверять чатбота на прочность, по сети разошлись скриншоты переписок, где чатбот ругает лесбиянок, черных и трансгендеров... Отдельные уникумы обсуждали на форумах сексуальные переписки с нейросетью в темах вроде "Как сделать чатбота своим секс-рабом". В общем, через три недели проект прикрыли. За это время чатбот успел набрать более 750 000 пользователей, 85% из них — подростки. Разработчики признали, что "защиту от дурака" реализовали самую простую — фильтром ключевых плохих слов, но этого оказалось недостаточно. Вопросы появились и к источнику данных для датасета. Разработчики просто взяли переписки из другого своего приложения, которое анализировало переписку между парами в KakaoTalk (самый популярный мессенджер в Южной Корее), чтобы оценить "уровень влечения". Сливать личную переписку такому приложению — это конечно тоже очень разумный ход со стороны пользователей... Но и разработчики хороши, просто взяли без спросу переписки случайных людей, обучили на них чатбота и ожидали, что из этого выйдет что-то хорошее. Кстати, читатели с хорошей памятью вспомнят аналогичную историю с чатботом Microsoft. В 2016 году MS выпустили в паблик чатбота Tai, который обучался по ходу переписки. Добрые пользователи имиджбордов скоординировались и быстро научили чатбота прославлять Гитлера и топить за Трампа.

Обращаем внимание, что мы не несем ответственности за содержимое(content) того или иного канала размещенный на нашем сайте так как не мы являемся авторами этой информации и на сайте она размещается в автоматическом режиме


Вы не ввели Email
Вы не ввели текст комментария

Путь репера Ганвест, порнография, прямая бочка, трэп и успех

#Заметка

Лейбл Zhara Music может похвастаться не только артистами в топах всевозможных стриминговых сервисов, но и певцом, актером и просто...

17.02.2019

Большой Фестиваль Роботов @festivalrobotov впервые в Краснодаре - в OZ Mall с 2 марта! Такого ты никогда не видел!

- Новейшие роботы с презентации в Лас-Вегасе
- Арена с 7 разными техношоу
- Красная...

08.02.2019

Муж Даши Коноваловой - Кирилл Шейхаметов, сын основателя "Якитории" и уже год как партнера Павла Те Олега Шейхаметова. Папа застраивает 1-ю Институтскую улицу рядом с Нахабино, сын - дарит Даше пятикаратники)...

06.02.2019

выгрузка ЕСКЛП публикуется по мере обновления ЕСКЛП на FTP-сервере ftp://ftp.esklp.rosminzdrav.ru/ (справочно), для FTP-сервера: Логин: esklp_xls, Пароль: bUUZSZ6e. Берете файлы с названием esklp-smnn...

24.01.2019

MySQL и БИТовое И
Как я строил связь много ко многим через «БИТовое И».
Задача: сделать отношение между категориями и продуктами БЕЗ промежуточной таблицы (такова специфика архитектуры). Один продукт может...

05.10.2018

Не полное ТЗ: Углы прямые, трубы параллельны. Что не так-то? #юмор

28.09.2018

Как найти все сообщения в чате от одного участника

Откройте поиск, нажмите на иконку "человека" и введите @юзернейм или имя пользователя.
Так вы сможете просмотреть всю историю сообщений участника.

21.06.2018

Возможно Вас заинтересует еще и это: