Одна маленькая даже не ошибка, а скорее особенность нейросетей пока мешает им развиваться и внедряться в жизнь куда более бурными темпами, чем сейчас. Хотя, казалось бы, — куда ещё быстрее? Но нет. Эта особенность стоила юристам отстранений...
Одна маленькая даже не ошибка, а скорее особенность нейросетей пока мешает им развиваться и внедряться в жизнь куда более бурными темпами, чем сейчас. Хотя, казалось бы, — куда ещё быстрее? Но нет. Эта особенность стоила юристам отстранений от практики, авиакомпании — проигранного суда, а для Google стала поводом к потере примерно ста миллиардов долларов капитализации за один день. Слово «галлюцинация» станет словом года сразу в двух словарях.
Как же так? Почему модель, которая помнит дату Грюнвальдской битвы, выдумывает номер ГОСТа? Откуда вообще взялся термин и почему он изначально был преимуществом ИИ? Правда ли, что новые «рассуждающие» модели врут больше старых? И можно ли это вылечить?
Ответы ниже. Спойлер: полностью — нельзя. И у этого «нельзя» есть чёткое объяснение.