В «Яндексе» заявили о проблеме «бесконечного доверия» к ИИ в поиске

Ответственность разработчика — сделать так, чтобы у человека не было иллюзий по поводу ответов ИИ, они зависят главным образом от качества информации в интернете, отмечает руководитель лаборатории машинного интеллекта «Яндекса»

Разработчикам моделей искусственного интеллекта необходимо всеми возможными силами доносить до людей понимание границ применения ИИ и доверия к его ответам, заявил в ходе ПМЭФ-2026 руководитель лаборатории машинного интеллекта «Яндекса» Александр Крайнов. РБК следил за трансляцией.

В качестве одного из примеров того, как пользователи относятся к ответам ИИ, Крайнов привел результаты поиска сервиса такси.

«Ну, вы знаете, когда первый раз с этим столкнулись: в поиск человек приходит, задает какой-нибудь вопрос, там «такси в Сочи» — и ему показывают кучу результатов. И человек такой, ну это же «Яндекс», он вот это показал на первом месте, значит, это, наверное, надежно, и там не обманут. Да откуда мы знаем? Ну, вот их там есть сколько? Вот их все нашли, как-то отранжировали, показали. Ну, конечно, не может поисковая система на всех этих [такси], всеми этими службами воспользоваться и сказать, какое лучше», — указал он.

Еще один пример касается суммаризации — выдачи общего ответа по найденным ИИ источникам.

«И тут доверие становится бесконечным. Ну, «Яндекс» же написал, значит, правда. И вот у нас было мучение. Мы довольно много сокращали количество таких готовых ответов, потому что возникало избыточное доверие. Здесь очень важная ответственность у разработчика до тех пор, пока люди еще не разобрались в деталях, что такое искусственный интеллект, и могут ошибиться. Ответственность разработчика — сделать так, чтобы у человека не было иллюзий. Чтобы он понимал, глядя на ответ, что, скорее всего, так, но это может быть ошибка», — добавил Крайнов.

Говоря о том, что люди в интернете ищут варианты лечения и перепроверяют рекомендации, полученные от врачей, он отметил, что так делают все и это никак не изменить, несмотря на все дисклеймеры для пользователей. По его словам, в этой ситуации, чтобы ИИ выдавал качественные и содержательные ответы, в интернете должно быть много качественной и содержательной информации. Дальше алгоритмы все сделают сами, уверен Крайнов.

«Но если хорошей качественной информации в интернете нет, то ответы будут не очень. Есть такое правило: garbage in, garbage out [мусор на входе — мусор на выходе]. Это идеально относится к искусственному интеллекту», — заключил он.