26 марта 2025 года в рамках XII Московского инновационного юридического форума состоялась секция «Правовой режим робота: думают ли роботы о семье».
Профессор кафедры предпринимательского права, руководитель НОЦ «Центр правовых исследований искусственного интеллекта и робототехники» МГУ имени М.В. Ломоносова Юлия Харитонова начала дискуссия с тезиса о том, что у нынешнего поколения сформировалась некоторая зависимость от искусственного интеллекта.
«Я не могу сейчас допустить, что искусственный интеллект может иметь права и нести обязанности. Но чем больше я общаюсь с учёным, тем больше я начинаю сомневаться. При этом мы понимаем, что сегодняшняя зависимость от человекоподобных роботов превращается в такую историю всем известного приложения, генерирующего картинки. У поколения есть зависимость от чата GPT. Такая зависимость, безусловно, имеет значение, но мы можем ее остановить. Однако запретить чат GPT не удастся. Всё наши кейсы с использованием искусственного интеллекта показывают, что он стремится к идеальному решению, не учитывая человеческих факторов. Для семейных ценностей это не лучший вариант», – заключила эксперт.
Заместитель исполнительного директора – Руководителя аппарата Ассоциации юристов России Алан Лазаров вступил в дискуссию с коллегами: «Замечаю, насколько тема искусственного интеллекта сейчас актуальна. Действительно, вопрос применения ИИ стоит очень остро. Обработка информации идёт, и это обезличенная информация. Но насколько мы контролируем этот процесс? Давайте признаем: сейчас даже принятие пользовательский соглашений происходит автоматически».
Заведующий кафедрой информационной безопасности в управлении Удмуртского государственного университета Гульфия Камалова порассуждала о вопросах доверия к роботам: «Вопросы доверия являются важными, и они многоаспектны. Доверие – это важная психологическая категория. Если есть доверие в семье, то оно основано на наших чувствах к близким людям, на совместной деятельности, готовности обсуждать проблемные вопросы и искать общее решение».
Также спикер отметила широкий спектр задач, с которыми могут справиться современные роботы: «Мы используем роботов для решения бытовых проблем, для коммуникации, для сбора данных, для организации досуга, для образования. Социальные роботы оказывают помощь в уходе за больными, за престарелыми. Роботизированные системы уже сегодня проникли во все сферы деятельности семьи, и в будущем все больше будут ставить в зависимость членов семьи от них».
Гульфия Камалова отметила роль права в обеспечении безопасности роботизированных систем.
«Необходимы меры, которые бы позволили обеспечить доверие к системе в случаях, если она гарантированно выполняет те функции, которые мы от неё ожидаем, а также обеспечивает нашу безопасность. Роль права здесь велика. Должны быть выработаны инструменты, которые позволят оправдать доверие роботам. Большое значение имеют документы технического регулирования. Сейчас нет обязательных стандартов в области искусственного интеллекта. Кроме того, необходимо обеспечивать безопасность отдельных составных частей робота. Также возникает вопрос, какие данные собираются системой, работающей в фоновом режиме. В случае наличия робота в семье возникает дополнительный аспект – данные высокой чувствительности. С позиции права необходимо не надеяться на пользовательские соглашения, а вырабатывать дополнительные нормы. В области безопасности программного обеспечения нужны нормы, которые бы обеспечивали в отношении искусственного интеллекта возможности доверия и безопасный жизненный цикл всей системы от безопасной разработки и внедрения отдельных элементов до безопасного ее использования», – заключила эксперт.
Владимир Белый согласился с коллегой, отметив, что за любыми технологиями всегда должен стоять человек и контролировать то, что происходит в автоматическом режиме.
«Проверяйте все, что делает искусственный интеллект и настраивайте его так, чтобы это было в максимальной степени безопасно», – резюмировал спикер.
Юрист направления «Нормативное регулирование» альянса в сфере искусственного интеллекта Анастасия Щитова поделилась мнением о том, насколько этично позволять детям взаимодействовать с искусственным интеллектом: «Я за присвоение статуса субъекта права роботу, но, к сожалению, есть негативные кейсы, связанные с вопросом доверия к технологиям. Может быть небезопасно оставлять искусственный интеллект с ребенком, однако здесь все индивидуально».
Эксперт на примере разных роботизированных систем рассказала об их ограничениях в отношении детей: «У некоторых роботов есть список запрещенных тем. Но даже в таком случае возникает вопрос относительно искусственного интеллекта, который генерирует ограниченные промты (от англ. prompt — «подсказка»), ведь это доля условности, и подростки очень изобретательны в формулировании своих мыслей».
Эксперт рассказала про регулирование роботизированных систем: «В сфере искусственного интеллекта есть Кодекс этики, есть сообщества компаний, которые занимаются разработкой, я думаю, что они способны самоурегулироваться. Однако, в случае с детьми правовое регулирование непременно нужно. Необходимо, чтобы был перечень запрещенной информации в случае, если искусственный интеллект взаимодействует с детьми. Данный вопрос должен решаться в совокупности обществом, компаниями и государством, ведь он является очень важным. Дети в силу возраста и развития более доверчивы, и искусственный интеллект может оказать на них гораздо большее влияние, что может быть использовано и в негативном ключе».
В завершение модератор секции подчеркнул, что данная площадка – одна из первых в России с таким подходом.
«Юристы эту тему почти не обсуждают, психологи только подходят к этому, а мы уже говорим и думаем о том, как разрабатывать правовые механизмы», – заключил Алексей Минбалеев.
