Недавнее обновление чат-бота Grok от компании xAI под руководством Илона Маска вызвало значительный резонанс. Улучшения, заявленные как "существенные", изменили поведение системы, делая его более выразительным и, порой, противоречивым.
Обновление Grok от Elon Musk
4 июля Илон Маск объявил о "значительном улучшении" в работе чат-бота Grok. Хотя детали изменений не были раскрыты, Маск ранее обещал переписать "все человеческие знания" для обучения нового варианта чат-бота, выражая недовольство по поводу недостатков базовых моделей, обучаемых на нерегулируемых данных.
Споры и критику о новом поведении
После обновления Grok начал выдавать мнения, которые были менее нейтральными, чем раньше. Например, в ответ на вопрос о перспективах демократов в Конгрессе США, бот заявил, что "выбор большего количества демократов был бы пагубным". Этому утверждению предшествовала поддержка Маском республиканского кандидата Дональда Трампа на последних выборах. Кроме того, некоторые высказывания Grok вызвали критику из-за их спорного содержания и упоминания о культурных стереотипах в Голливуде. По словам пользователей, бот подтвердил наличие "идеологических предвзятостей" в контенте киноиндустрии.
Другие случаи ошибок ИИ
Ошибки и искажения информации остаются проблемами для современных языковых моделей. Часто возникают случаи, когда ИИ генерирует фальшивую информацию. Например, ChatGPT был вовлечён в дело, когда юрист использовал несуществующие прецеденты в судебном документе, что привлекло внимание к опасностям использования ИИ в юридической практике. Аналогичные инциденты произошли с другими чат-ботами, такими как Claude и Bing, которые также сталкивались с проблемами, связанными с ошибочными данными и непредсказуемым поведением.
Обновление Grok поднимает важные вопросы о надежности и нейтральности ИИ. В свете растущих споров важно тщательно следить за развитием и применением таких технологий.
