Программист Рыбников назвал самую распространенную ошибку ИИ

Фото: tvkrasnodar.ru

Программист и преподаватель кафедры инструментального и прикладного программного обеспечения Института информационных технологий РТУ МИРЭА Андрей Рыбников рассказал «Ленте.ру» о ключевых ошибках, с которыми можно столкнуться при работе с ИИ. Два главных типа проблем эксперт назвал «галлюцинациями ИИ».

Под «галлюцинациями» понимается генерация нейросетью информации, которая выглядит правдоподобно, но является полностью вымышленной. Однако это не является сознательным обманом – модель просто работает по ранее заложенной в неё последовательности слов или данных на основе своих тренировочных наборов.

Также крайне рискованными являются манипуляции с входными данными, также известные как «взлом промтов». Рыбников отметил, что пользователь с помощью специально составленного запроса может обойти внутренние ограничения модели.

Ранее сообщалось, что ИИ решил вековую «задачу трёх тел». Нейросети совершили революцию в астрофизике, найдя решение одной из самых сложных задач в истории науки.