Nature: Чат-боты разучились говорить “я не знаю”

Исследование, опубликованное в журнале Nature, выявило увеличение ошибок в ответах крупных чат-ботов, основанных на ИИ, на сложные вопросы. Исследователь Хосе Эрнандес-Оралло проверил работу трех ведущих чат-ботов, построенных на передовых моделях ИИ. Он обнаружил, что чат-боты избегают заявлений “я не знаю” в ответ на сложные запросы, вместо этого допуская больше ошибок.

Эрнандес-Оралло и его команда изучали три группы больших языковых моделей (LLM), включая GPT OpenAI, BLOOM и модель, разработанную BigScience. Они обнаружили значительное улучшение способностей моделей по сравнению с предыдущими версиями. Однако модели также начали давать ошибочные ответы вместо признания незнания.

Исследователи обнаружили, что все модели иногда предоставляли неверную информацию даже на простые запросы.

“Люди не могут контролировать эти модели”, – отметил Эрнандес-Оралло.
Ученые подчеркнули, что разработчики должны предоставить чат-ботам возможность пропускать вопросы, на которые они не могут ответить. В противном случае ИИ может вводить пользователей в заблуждение.