Уверенно и неверно. Почему ИИ ошибается в фактах — ИИ для исследований: быстро находите информацию и проверяйте, что правда

Гладко, быстро и иногда выдумано

Вы наверняка замечали: спросить ИИ-ассистента часто быстрее, чем искать самому. Вы пишете вопрос и вместо десятка ссылок получаете аккуратный ответ на родном языке, иногда даже с источниками. Для многих вопросов это действительно удобно.

Беда в том, что аккуратный ответ выглядит одинаково, верен он или нет. Ни запинки, ни «в этой части я не уверен». Об этом и курс: как с помощью ИИ находить информацию быстрее и понимать, на какие части ответа можно опереться.

Кейс · Знакомьтесь: Марта

Марта — героиня, за которой мы будем следить весь курс. Это собирательный образ из множества типичных историй. Ей 44, она офис-менеджер и HR в компании на 40 человек: договоры, отпуска, адаптация новичков, сам офис. ИИ-ассистентом пользуется несколько раз в неделю, в основном чтобы причесать письма.

В этом месяце на неё свалилось сразу две вещи. Начальник попросил «короткий обзор про четырёхдневную рабочую неделю — работает ли это и можем ли мы попробовать?». А мама начала пересылать «научные» советы о здоровье из семейных чатов, один тревожнее другого. Марта решила, что ИИ поможет и с тем, и с другим. А потом он рассказал ей кое-что о её же работе — и она точно знала, что это неправда.

Что случилось: Марта спросила о правилах ежегодного отпуска в своей стране. Ответ был понятный, хорошо выстроенный — и ссылался на конкретную статью трудового кодекса, по которой сотрудник может переносить неиспользованный отпуск «до трёх лет». Марта десять лет оформляла заявления на отпуск. Такой статьи нет. Потом, ради интереса, она спросила, когда основана её компания. Ассистент уверенно назвал год. Ошибся на три года.