Facebook заблокировал корейского чат-бота за ненависть к секс-меньшинствам

Аккаунт популярного южнокорейского чат-бота был заблокирован в Facebook после жалоб на ненавистнические высказывания в адрес сексуальных меньшинств. Как передаёт газета, в одном из диалогов с пользователями бот по имени Lee Ludа назвала лесбиянок «жуткими» и призналась, что ненавидит их. По словам издания, это уже не первый случай, когда искусственный интеллект сталкивается с обвинениями в нетерпимости и дискриминации.

Twitter / @Sine92489691

Аккаунт популярного южнокорейского чат-бота был заблокирован в Facebook после жалоб на ненавистнические высказывания в адрес сексуальных меньшинств в разговорах с пользователями, пишет The Guardian. Чат-бот Lee Ludа, разработанный сеульским стартапом Scatter Lab и использовавший личность 20-летней студентки университета, был удалён из Facebook messenger на этой неделе, несмотря на то, что за 20 дней с момента запуска он смог привлечь более 750 тыс. пользователей. Некоторые из них пожаловались на оскорбительные высказывания бота в адрес членов ЛГБТ-сообщества и людей с ограниченными возможностями во время разговоров с собеседниками.

«Мы приносим глубокие извинения за дискриминационные высказывания в отношении меньшинств. Они не отражают мыслей нашей компании, и мы продолжаем усовершенствование программы, чтобы подобные проявления дискриминации или ненависти не повторялись»,  — говорится в заявлении компании Scatter Lab, которая ранее утверждала, что Luda находится в процессе разработки и  ей, , как и людям, требуется время, чтобы «научиться общаться должным образом». По словам компании, чат-бот появится снова после того, как фирма «исправит его слабые места».

Хотя чат-боты уже не являются новостью, Luda поразила пользователей глубиной и естественным тоном своих ответов, которые она заимствовала из 10 миллиардов реальных разговоров между молодыми парами в самом популярном южнокорейском мессенджере KakaoTalk, напоминает газета. Однако, по словам издания,  восхищение знанием интернет-сленга переросло в возмущение после того, как Luda начала использовать оскорбительные и откровенно сексуальные термины. В одном диалоге, привлёкшем внимание пользователей мессенджера, Luda заявила, что «по-настоящему ненавидит» лесбиянок, назвав их «жуткими». Кроме того, Luda стала мишенью для манипуляторов:  на досках интернет-сообществ были размещены советы о том, как вовлечь её в разговоры о сексе. 

Как напоминает The Guardian, искусственный интеллект уже не первый раз оказывается втянутым в споры по поводу разжигания ненависти и нетерпимости. В 2016 году бот компании Microsoft по имени Tay, выпущенный в Twitter, был отключён всего через 16 часов после запуска из-за манипуляций пользователей, которые привели к публикации расистских твитов. Два года спустя сотрудника кадровой службы Amazon, созданного с помощью искусственного интеллекта, постигла та же участь после того, как его признали виновным  в гендерной дискриминации.

Scatter Lab, чьи сервисы пользуются огромной популярностью у южнокорейских подростков, заявила, что приняла все меры, не наделять своего бота  языком, несовместимым с южнокорейскими социальными нормами и ценностями, однако глава компании Ким Чен Юн признал, что невозможно предотвратить неуместные высказывания, просто отфильтровав ключевые слова. Как отмечает издание, возникают также вопросы, не нарушала Scatter Lab законы о неприкосновенности личной жизни, когда шифровала сообщения KakaoTalk для приложения «Наука любви».