Нейронутые | ИИ

ИИ в Fable решил, что он — новый критик New York Times, только с резкостью токсичного комментатора.

Вместо дружелюбных итогов года, пользователи книжного сервиса получили высмеивание за свой выбор книг. И это не милое «читали меньше в этом году?», а настоящий шквал треша: расистские комментарии, вопросы в духе «когда ты последний раз думал, как белый мужчина?» и даже насмешки над ориентацией.

Fable, вдохновившись трендом Spotify Wrapped, хотели, видимо, сделать весело. А сделали скандал. Сначала ИИ обидел кучу людей, потом компанию заставили извиняться с дрожащими руками, после чего, естественно, отключили функцию.

Ну разве не очевидно, что такая штука должна была пройти тестирование?

Проблема тут не в ИИ, а в его хозяевах, которые думали, что можно просто накидать API OpenAI, подождать пару дней и все полетит. Нет, ребята, это как оставить ребенка за рулем Tesla (без автопилота). Пока Fable собирает осколки репутации, пользователи удаляют аккаунты и смеются в соцсетях. Корпорация мечты порадовала мемами, но потеряла доверие.

Мораль проста: если ваш ИИ оскорбляет клиентов, это не просто «неприятный баг», это провал на всех уровнях. Хотите быть модными и использовать ИИ? Учитесь, как это делать ответственно. Или готовьтесь извиняться в соцсетях под грустную музыку.

www.group-telegram.com/ms/neuronuts.com/1207

5.1K viewsЕгор Апполонов, Jan 6 at 11:52

ИИ в Fable решил, что он — новый критик New York Times, только с резкостью токсичного комментатора.

Вместо дружелюбных итогов года, пользователи книжного сервиса получили высмеивание за свой выбор книг. И это не милое «читали меньше в этом году?», а настоящий шквал треша: расистские комментарии, вопросы в духе «когда ты последний раз думал, как белый мужчина?» и даже насмешки над ориентацией.

Fable, вдохновившись трендом Spotify Wrapped, хотели, видимо, сделать весело. А сделали скандал. Сначала ИИ обидел кучу людей, потом компанию заставили извиняться с дрожащими руками, после чего, естественно, отключили функцию.

Ну разве не очевидно, что такая штука должна была пройти тестирование?

Проблема тут не в ИИ, а в его хозяевах, которые думали, что можно просто накидать API OpenAI, подождать пару дней и все полетит. Нет, ребята, это как оставить ребенка за рулем Tesla (без автопилота). Пока Fable собирает осколки репутации, пользователи удаляют аккаунты и смеются в соцсетях. Корпорация мечты порадовала мемами, но потеряла доверие.

Мораль проста: если ваш ИИ оскорбляет клиентов, это не просто «неприятный баг», это провал на всех уровнях. Хотите быть модными и использовать ИИ? Учитесь, как это делать ответственно. Или готовьтесь извиняться в соцсетях под грустную музыку.

BY Нейронутые | ИИ