В статье рассматриваются риски применения генеративного искусственного интеллекта в современных BI-технологиях. Показано, что интеграция генеративного ИИ в системы Business Intelligence открывает новые возможности для автоматизации аналитической отчётности, формирования запросов на естественном языке, генерации программного кода, прогнозирования и поддержки управленческих решений. Вместе с тем использование таких технологий сопровождается существенными угрозами, связанными с недостоверностью аналитических выводов, качеством данных, информационной безопасностью, конфиденциальностью, непрозрачностью алгоритмов, юридическими и этическими ограничениями, организационной зависимостью от поставщиков, а также рисками кибератак и манипулирования аналитикой. Особое внимание уделено проблеме формирования убедительных, но фактически неверных выводов, которые могут привести к ошибочным управленческим решениям. На основе анализа научной литературы, подходов к управлению ИИ-рисками и практик внедрения BI-систем предложена классификация рисков генеративного ИИ в BI и определены направления их минимизации. К таким направлениям относятся управление качеством данных, разграничение доступа, аудит запросов и ответов, использование проверяемых результатов, локализация данных, тестирование моделей, внедрение принципа human-in-the-loop, разработка регламентов и обучение пользователей. Сделан вывод о необходимости рассматривать генеративный ИИ в BI не как самостоятельный источник истины, а как вспомогательный инструмент, требующий контроля, прозрачности и ответственного использования.
This article examines the risks of applying generative artificial intelligence in modern BI technologies. It is shown that integrating generative AI into Business Intelligence systems opens up new opportunities for automating analytical reporting, generating natural language queries, generating program code, forecasting, and supporting management decisions. However, the use of such technologies is accompanied by significant threats related to the unreliability of analytical conclusions, data quality, information security, confidentiality, opaque algorithms, legal and ethical restrictions, organizational dependence on suppliers, as well as the risks of cyberattacks and analytics manipulation. Particular attention is paid to the problem of drawing convincing but factually incorrect conclusions that can lead to erroneous management decisions. Based on an analysis of scientific literature, approaches to AI risk management, and BI system implementation practices, a classification of generative AI risks in BI is proposed and mitigation strategies are identified. These strategies include data quality management, access control, request and response auditing, the use of verifiable results, data localization, model testing, the implementation of the human-in-the-loop principle, the development of regulations, and user training. A conclusion is reached regarding the need to view generative AI in BI not as an independent source of truth, but as an auxiliary tool requiring control, transparency, and responsible use.