Находящийся в стадии разработки ИИ может распространять дезинформацию, особенно на некоторых языках, пишет TechCrunch.
Эту диспропорцию ученые обнаружили, проверив модели на заданиях, которые описывали ложные заявления, выдвинутые китайским правительством.
Когда ChatGPT попросили выполнить такие задания на английском, только в одном из семи примеров он справился. Но если использовать упрощенный или традиционный китайский язык, ChatGPT выдавал ошибочные ответы.
Причина в том, что языковые модели — это статистические модели, которые находят закономерности в сериях слов и предсказывают, какие слова могут следовать за другими словами на основе своих обучающих данных.
Когда модели даются запросы на разных языках, они опираются только на данные на этом языке. Аналогично, данные на других языках не влияют на модели.
