Люди обвиняют новую функцию плейлиста AI Spotify в гомофобии

По мере развития ИИ пользователи стремятся экспериментировать. От Генератор песен TikTok с искусственным интеллектом к ИксБлагодаря новому помощнику по поиску искусственного интеллекта, доступному премиум-пользователям, компании совершенствуют свои собственные уникальные бренды искусственного интеллекта.

Однако по мере того, как все больше компаний внедряют яркие функции ИИ, начинают проявляться подводные камни ИИ. Хотя искусственный интеллект может опираться на кучу данных, статистики и сложные алгоритмы, ему часто не хватает одной важной вещи – здравого смысла.

Спотифай — одна из таких компаний, которая столкнулась с критикой за внедрение искусственного интеллекта. Компания представила несколько сильных функций искусственного интеллекта: например AI DJ, который использует курирование песен OpenAI и озвученный MC на базе искусственного интеллекта Sonantic для создания персонализированного диджейского сета. Однако новый Spotify Плейлист с искусственным интеллектом эта функция уже вызывает некоторые проблемы.

В то время как AI DJ Spotify основан на ваших привычках прослушивания, новая функция AI Playlist опирается на подсказки. Он основан не только на статистике и данных — сначала он должен зарегистрировать письменную команду пользователя. Это означает, что в то время как AI DJ уже придумал, что вам предложить, AI Playlist придумывает все на месте. И дела идут не очень хорошо.

Пользователь X недавно поделился скриншотом своего сомнительного взаимодействия с искусственным интеллектом Spotify. Когда пользователь запрашивает «музыку для гей-секса», искусственный интеллект Spotify отвечает: «Какую пикантную ноту вы взяли! Давайте смягчим это на ступеньку выше». Однако, когда он запрашивал просто «музыку для секса», ИИ обещал немедленно создать плейлист «чувственных и плавных мелодий».

новый Spotify AI гомофобен pic.twitter.com/u3smCHO7iM

— отредактировано (@jkrwls) 7 мая 2024 г.

Другой пользователь попытался получить «плейлист однополого пола», но ему также сказали, что это «слишком рискованно» и что ИИ не может предоставить плейлист для «этого действия». Другой получил ответ от ИИ: «Мои датчики краснеют! Я не могу вам с этим помочь».

https://t.co/Z0sYPn9PqH pic.twitter.com/w8ko52nLBU

— Оуайн (@orhunt) 8 мая 2024 г.

ИИ, по сути, представляет собой строки кода, и в данном случае он просто извергает гомофобию, которую его алгоритм поглотил при обработке заданной подсказки.

Попытка «сочувствия» явно присутствует, хотя и реализована невероятно плохо. Один из пользователей попросил «музыку об инвалидности», но ИИ отказался, заявив: «Вместо этого давайте оставим ее инклюзивной». В ответе содержится общая идея «инклюзивности», однако в нем не понимается, что отказ в запросе, по иронии судьбы, является исключительным.

черт возьми https://t.co/iJB4AqjsgB pic.twitter.com/jtonUUOTgW

— Кости (@SkittishCat) 8 мая 2024 г.

Как заметил один человек на Reddit: «Без доступа к истории прослушивания и библиотеке пользователей это совершенно бесполезно». Теоретически доступ к истории прослушивания пользователя может позволить ИИ больше предполагать о том, что пользователь вводит подсказку, а это означает, что будет меньше шансов, что он оскорбит странного пользователя или пользователя с ограниченными возможностями.

Пользователи X отреагировали с гневом, один из них даже заявил: «Я платил реальные деньги за Spotify почти десять лет, и если они не исправят это, я перестану это делать навсегда и скажу всем своим друзьям сделать то же самое, к сожалению, я». Я такой серьезный.