В июне 2024 года Европейский парламент принял поправки в Закон об искусственном интеллекте (AI Act), который классифицирует системы ИИ по уровням риска. Кулинарные ассистенты относятся к категории ограниченного риска с обязательствами по прозрачности алгоритмов. Однако в тексте закона отсутствуют положения, регулирующие механизмы компенсации вреда от некорректных рекомендаций ИИ.
Как раскрывает международная юридическая фирма Norton Rose Fulbright в статье за июль 2024 года, в соответствии с пересмотренной директивой об ответственности за продукцию, принятой в июне 2024 года, производители несут ответственность за дефекты, возникшие из-за способности ИИ к самообучению после выпуска на рынок, а также за недостатки обновлений программного обеспечения. Для сложных случаев, таких как получение опасных рекомендаций от ИИ, директива устанавливает презумпцию1дефектности продукта при невыполнении требований безопасности или очевидном сбое в работе. Кроме того, при доказанном дефекте связь между ним и повреждением предполагается автоматически, что усиливает позицию потерпевшего.
В июле 2025 года Европейский союз представил Кодекс практики для ИИ-моделей общего назначения (GPAI), который устанавливает добровольные стандарты разработки. Ключевым нововведением стала «презумпция соответствия»: компании, следующие Кодексу, получают юридическое преимущество при доказательстве соблюдения Регламента об ИИ. Документ вводит дифференцированный подход, где требования к прозрачности и авторскому праву применяются ко всем системам, включая кулинарные ассистенты, а строгие нормы кибербезопасности и мониторинга — только к моделям высокого риска2. Третий раздел Кодекса предполагает, что для генеративных ИИ необходимо внедрение фильтров контента, механизмов исключения данных по запросам правообладателей и протоколов документирования решений.
Реальность этих рисков иллюстрируют резонансные случаи. В августе 2025 года журналист Эндрю Пол в статье для научно-популярного журнала Popular Science описал госпитализацию 60-летнего пациента с острым бромизмом3. Мужчина в течение трех месяцев заменял поваренную соль (хлорид натрия) бромидом натрия, следуя диетологической рекомендации ChatGPT. Тяжелая интоксикация привела к мышечному тремору, паранойе, слуховым и зрительным галлюцинациям. Врачи, занимавшиеся этим делом, предположили, что ИИ, возможно, не распознал запрос мужчины как медицинский и предложил бромид, например, в контексте чистящих средств.
Редактор The Guardian Тесс МакКлюр в статье, опубликованной в августе 2023 года, обнаружила, что ИИ-приложение новозеландской сети супермаркетов Pak’n’Save, созданное для генерации рецептов, начало предлагать пользователям опасные для жизни сочетания ингредиентов. Алгоритм рекомендовал «освежающий напиток», при приготовлении которого выделяется смертоносный хлорный газ, «бутерброды с ядом для муравьев» и другие опасные рецепты. Инцидент произошел после того, как пользователи начали вводить в приложение несъедобные ингредиенты, но приложение не предупреждало людей о вреде для здоровья. Представители компании заявили, что рецепты не проходят проверку человеком, и возложили ответственность на пользователей, указав на нарушение условий использования.
В противовес единичным инцидентам, масштабное внедрение ИИ в пищевую промышленность демонстрирует прогресс в области стандартов безопасности. Согласно данным BCC Research, глобальный рынок ИИ в сфере контроля качества и безопасности пищевых продуктов был оценен в 2,7 миллиарда долларов в 2024 году, и, по прогнозам, достигнет 13,7 миллиарда долларов к 2030 году при совокупном годовом темпе роста (CAGR) 30,9% в период с 2025 по 2030 год. Технологии активно применяются для автоматического обнаружения загрязнений, мониторинга условий хранения в цепях поставок и прогнозирования сроков годности. Ключевые игроки рынка, включая Nestlé и Tyson Foods, уже интегрируют ИИ-системы для контроля качества, что позволяет сократить количество человеческих ошибок и минимизировать риски пищевых отравлений.
Технологический журналист, специализирующийся на теме искусственного интеллекта. В фокусе внимания — комплексный анализ развития технологий через призму права, этики и их социальных последствий.
Исследую, как алгоритмы и ИИ меняют ключевые сферы: от работы правоохранительных органов и бизнеса до частной жизни. Основные темы — преодоление алгоритмической предвзятости, правовые пробелы в регулировании и адаптация общества к цифровой трансформации.
