Фундаментальные проблемы достоверности в искусственном интеллекте: роль генеративного искусственного интеллекта и его ограничений

Аннотация

В статье рассматриваются фундаментальные проблемы достоверности в системах искусственного интеллекта с акцентом на генеративные модели, активно применяемые в научной, образовательной, управленческой и социальной практике. Актуальность исследования обусловлена расширением сфер использования генеративного ИИ и возрастанием рисков, связанных с созданием содержательно убедительных, но фактически некорректных, логически противоречивых или эмпирически неподтверждаемых результатов. Цель исследования заключается в выявлении и теоретическом осмыслении ключевых факторов, определяющих ограниченность достоверности в системах ИИ, а также в определении технологических, эпистемологических и прикладных барьеров, влияющих на надежность, проверяемости и интерпретируемости создаваемой информации. В ходе исследования были использованы методы теоретического анализа моделей искусственного интеллекта. Методологическую основу составили теоретико-аналитический и междисциплинарный подходы, позволившие рассмотреть проблему на стыке информатики, философии науки, теории познания, права и этики. Материалы исследования включают научные публикации российских авторов, посвященные вопросам доверия к интеллектуальным системам, ограничениям алгоритмических моделей, алгоритмической непрозрачности, верификации результатов и особенностям генеративного искусственного интеллекта. В результате исследования установлено, что достоверность результатов ИИ определяется совокупностью факторов: качеством и репрезентативностью обучающих данных, непрозрачностью архитектуры нейросетевых систем, способностью моделей воспроизводить ошибки и предубеждения, а также эффектом внешней правдоподобности генерируемого контента, способным формировать ложное доверие у пользователя. Обосновано, что генеративный ИИ не осуществляет понимание содержания в собственном смысле, а функционирует на основе статистического воспроизведения закономерностей, что предопределяет возможность систематических искажений. Сделан вывод о необходимости развития механизмов верификации, интерпретации и критической оценки результатов ИИ, особенно в сферах, где принимаемые решения имеют значимые социальные, правовые, экономические и этические последствия.