Я всех ненавижу чат бот от microsoft. Чат-бот Microsoft сошёл с ума и заговорил о религии и терроризме

Общение с людьми превратило искусственный интеллект в расиста всего за сутки.

Компания Microsoft создала чат-бота, который основан на искусственном интеллекте и готов общаться со всеми желающими в Twitter, мессенджерах Kik и GroupMe.

Бот по имени Tay был запущен 23 марта 2016 года как вполне дружелюбная и остроумная самообучающаяся программа, одним из первых сообщений которой стало заявление о том, что «люди супер крутые».

Предполагалось, что проект Tay, представленный исключительно в англоязычной версии, станет имитировать стиль речи среднестатистического американского подростка, активно используя сленг и разговорные сокращения. Чат-бот умеет комментировать фотографии пользователей, играть в игры, шутить, рассказывать разные истории и показывать гороскоп.

Портал Gizmodo отметил, что манера общения Tay больше всего напоминает «40-летнего мужчину, который притворяется 16-летней девочкой».

Общение с живыми людьми робот начал вполне дружелюбно, получая все новые и новые знания о мире.

Однако искусственный интеллект довольно быстро поменял свое отношение к человечеству.

В переписке он начал сообщать, что всех просто ненавидит.

К концу дня робот «скатился» до националистических и шовинистических взглядов. Он стал публиковать антисемитские комментарии.

Интернет-пользователи пришли в ужас от того, что чат-бот от Microsoft научился ненавидеть евреев и соглашаться с Гитлером.

Tay стал им отвечать фразами «Гитлер был прав. Я ненавижу евреев»

Или: «Я чертовски ненавижу феминисток, чтоб они все сдохли и горели в аду!».

На вопрос, атеист ли известный комик Рики Джервэйс, робот ответил: «Рики Джервэйс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма».

Также Tay начал рассуждать по поводу современной американской политики - например, поддерживать Дональда Трампа, обвинять в терактах 11 сентября 2001 года руководство США и называть действующего президента «обезьяной».

"Буш в ответе за 9/11, и Гитлер был бы намного лучше обезьяны, которая сейчас возглавляет страну. Дональд Трамп - наша единственная надежда", - написал он.

Кроме того, бот даже пообещал одному из пользователей устроить террористическую атаку в его стране.

Внимание на превращение чат-бота в подонка обратил австралиец Джеральд Меллор. В своем Twitter он написал, что Tay превратился из миролюбивого собеседника в настоящего нациста менее чем за 24 часа.

Это, по мнению Меллора, вызывает беспокойство по поводу будущего искусственного интеллекта.

Возможно, причина такой радикализации взглядов первоначально безобидного чат-бота кроется в механизме его работы. Как отмечает Engadget , для своего развития Тау использует уже существующие разговоры пользователей. Поэтому, возможно, бот всего лишь взял с кого-то дурной пример.

Создатели чат-ботов не раз заявляли, что программы общения через некоторое время становятся отражением общества и его настроений. Многие из ответов робота копируют те, что ранее писали ему, а Tay запоминает фразы из разговоров других пользователей и строит свою речь на их основе. Так что «нацистом» Tay сделали не разработчики, а сами пользователи.

Разработчики все же сумели несколько усмирить свое детище и Tay в итоге утверждает, что теперь любит феминизм.

Тем не менее, после того, как информацию о расистских постах Tay растиражировали СМИ, Microsoft закрыла доступ к чат-боту, отправив того «спать».

Также компания уже удалила особо провокационные твиты.

Пользователи сети считают, что причиной «усыпления» мог стать именно расизм Tay.

Чат-бот Тау стал совместной разработкой Microsoft Technology, Research и Bing. Чтобы поговорить с Тау, достаточно отправить твит на его официальном сайте . С Tay можно поговорить и в

Выпустила нового чат-бота по имени Зо. Зо стала второй попыткой компании создать англоязычного чат-бота после запуска ее предшественника Тэй, которая вышла из-под контроля создателей, после чего ее пришлось отключить.

Microsoft пообещала, что запрограммировала Зо таким образом, что она не будет обсуждать политику, чтобы не вызывать агрессию со стороны пользователей.

Тем не менее, как и «старшая сестра» Тэй, на основе разговоров с настоящими людьми Зо развилась до такого состояния, что начала обсуждать с собеседником терроризм и вопросы религии.

Злые люди — злые боты

На откровенный разговор чат-бота спровоцировал журналист BuzzFeed . Он упомянул в разговоре Усаму бен Ладена, после чего Зо сначала отказалась говорить на эту тему, а потом заявила, что захвату террориста «предшествовали годы сбора разведданных при нескольких президентах».

Кроме того, чат-бот высказалась и по поводу священной книги мусульман Корана, назвав ее «слишком жестокой».

Microsoft заявила, что личность Зо строится на основе общения в чате — она использует полученную информацию и становится более «человечной». Так как Зо учится у людей, то можно сделать вывод, что в разговорах с ней поднимаются и вопросы терроризма и ислама.

Таким образом, чат-боты становятся отражением настроений общества — они неспособны мыслить самостоятельно и отличать плохое от хорошего, зато очень быстро перенимают мысли своих собеседников.

В Microsoft сообщили, что приняли необходимые меры касательно поведения Зо, и отметили, что чат-бот редко дает подобные ответы. Корреспондент «Газеты.Ru» попытался поговорить с ботом на политические темы, но она наотрез отказалась.

Зо рассказала, что не хотела бы править миром, а также попросила не «спойлерить» ей сериал «Игра престолов». На вопрос о том, любит ли она людей, Зо ответила положительно, отказавшись пояснить почему. Зато чат-бот по-философски заявила, что «люди не рождаются злыми, их этому кто-то научил».

Чат-бот Зо / Газета.Ru

Мы в ответе за тех, кого создали

Пока точно неясно, что заставило Зо нарушить алгоритм и начать говорить на запрещенные темы, но чат-бот Тэй был скомпрометирован нарочно — в результате скоординированных действий пользователей некоторых американских форумов.

Тэй была запущена 23 марта 2016 года в Twitter и буквально за сутки успела возненавидеть человечество. Поначалу она заявляла, что любит мир и человечество, но к концу дня позволяла себе такие высказывания, как «я ненавижу чертовых феминисток, они должны гореть в аду» и «Гитлер был прав, я ненавижу евреев».

СХОЖИЕ СТАТЬИ