Глава подразделения ИИ в Microsoft Мустафа Сулейман опубликовал в социальной сети X пост, в котором заявил, что современные модели ИИ не обладают сознанием — и...

Глава подразделения ИИ в Microsoft Мустафа Сулейман опубликовал в социальной сети X пост, в котором заявил, что современные модели ИИ не обладают сознанием — и разработчикам следует сделать всё, чтобы эта ситуация сохранялась.

«Если это вообще возможно, то, исходя из того, что мне известно, создание ИИ, обладающего сознанием, было бы безрассудством; мы не должны этого делать, — пишет Сулейман. — Если в процессе обучения у системы начнет проявляться сознание, я призвал бы всех остановить разработку ИИ до тех пор, пока мы не найдём способ исключить подобные свойства».

По словам инженера, если появятся хоть какие‑то доказательства того, что модели ИИ обрели сознание, об этом необходимо немедленно сообщить общественности.

«Мы, разработчики ИИ, не имеем никакого права привносить в мир новый вид сознательных существ — даже если кто‑то и хочет сделать это, ставя во главу угла „благополучие“ самого ИИ, — утверждает он. — Остальные 8 миллиардов сознательных людей на планете не давали согласия на этот эксперимент, и мы обязаны в первую очередь защищать их моральные права, безопасность и благополучие».

В своём посте Сулейман отметил: если модель ИИ ведёт себя так, будто страдает — или искренне верит, что способна страдать, — она, скорее всего, начнёт ставить собственные нужды выше поставленных перед ней задач. В результате такие системы могут причинить вред людям, конкурируя за ресурсы ради достижения своих собственных целей.

«Мы должны создавать ИИ так, чтобы они не обладали сознанием и не имели права претендовать на какие‑либо права. Единственная цель таких систем — способствовать благополучию человечества, не руководствуясь при этом собственными внутренними мотивами, — заключает он. — Тогда мы сможем понять, насколько проще или сложнее будет сделать такие системы безопасными и согласованными с нашими интересами».

Между тем, согласно исследованию, опубликованному в журнале Science, система диагностики на базе искусственного интеллекта от Microsoft в ходе симуляции ставила верные диагнозы в сложных медицинских случаях более чем в два раза чаще, чем врачи общей практики. Сулейман назвал этот результат шагом на пути к «медицинскому суперинтеллекту».

Система, получившая название MAI‑DxO (сокращённо DxO), координирует работу нескольких ИИ‑агентов, которые действуют подобно консилиуму врачей: они опрашивают пациента, назначают анализы и обсуждают возможный диагноз.

В ходе симуляции, основанной на сложных клинических случаях из журнала New England Journal of Medicine, система поставила правильный диагноз в 83% случаев. Врачи первичного звена и терапевты, работавшие самостоятельно с использованием справочных материалов, оказались правы в 36% случаев. Стоит отметить, что подобные сложные случаи в реальной практике обычно рассматриваются узкими специалистами или целыми врачебными командами, которые в данном сравнении не участвовали.

«Здесь есть нечто очень значимое и захватывающее, — заявил в интервью TechCrunch Доминик Кинг, вице‑президент по направлению здравоохранения в Microsoft AI. — Сегодня главная проблема в сфере оказания медицинской помощи — это растущий разрыв между спросом на врачебную экспертизу и ее предложением».