Этика ИИ

Вопрос: В своих публичных выступлениях вы часто предостерегаете от чрезмерного использования ИИ. С другой стороны, вы внедряете ИИ в продукты вашей компании. Где грань допустимости использования ИИ, перешагивать которую не стоит? И почему не стоит этого делать?

Если вы имеете в виду большие языковые модели, к каким относятся ChatGPT, GigaChat, DeepSeek и др., которые некоторые эксперты называют бредогенераторами, то они принципиально допускают вероятностные ответы, в том числе те, которые являются ложью. Потому что это не системы, имеющие разум, а системы, которые лишь имитируют разумность. Вы можете придумать вопрос, глядя на который, человек сразу скажет, что это чушь, а бредогенератор будет честно пытаться на него ответить, потому что он создан для ответов. Такая генерация произвольного контента очень опасна, так как люди привыкают получать ответ и даже не задумываются, насколько ответ релевантен, верят ему безоговорочно. Получается, что человек становится заложником системы.

Сейчас в поисковой выдаче всплывают сгенерированные подсказки. Многие люди дальше уже не смотрят. Если речь идет о радиусе Земли или расстоянии от Земли до Солнца, то есть об одной цифре, скорее всего, там сказано правильно. А если речь идет о каком-то более сложном явлении, то верить условной "Алисе" не стоит. Несколько раз я натыкалась на то, что подсказка была прямо неверная! При этом прилипчивость БЯМ очень высокая, и люди начинают им бездумно доверять.

Замечу, что ИИ не ограничивается большими языковыми моделями. Например, в сельском хозяйстве ИИ используют для прогнозирования урожайности и контроля за посевами. Для выявления, например, нехватки полива или заболевания растений на больших площадях. Это сильно повышает производительность сельскохозяйственных угодий. В промышленности и на производстве ИИ используют для того, чтобы строить систему безопасности или выявлять утечки газа, поломки, возможные аварии и т.д. Система искусственного интеллекта с этим справляется лучше, чем человек. В таких механистических задачах ИИ очень нужен. А вот нужны ли бредогенераторы — большой вопрос. Считаю, что их нельзя использовать в социальной сфере — например, для общения с людьми, создания нормативно-правовых актов или написания стратегии работы.