Мустафа Сулейман, глава напрямку ШІ в Microsoft, переконаний, що справжня свідомість може бути лише у живих істот. Він вважає, що спроби змоделювати ШІ як “усвідомленого” є хибними.
Сулейман заперечує ідею “свідомого” штучного інтелекту
Сулейман наголошує, що дослідження, які допускають “страждання” або емоційний досвід у ШІ, є оманливими. “Неправильно сформульоване питання призведе до неправильної відповіді. Це зовсім хибна постановка задачі”, – підкреслив він.
Як один із провідних фахівців галузі, Сулейман протистоїть концепції “свідомого” ШІ — систем, які можуть справляти враження, що вони відчувають емоції. У 2023 році він став співавтором книги The Coming Wave, присвяченої небезпекам, пов’язаним з ШІ та іншими новітніми технологіями, а також опублікував есе під назвою Ми повинні створювати ШІ для людей, а не ШІ як людину.
Причини для дискусій
Інтерес до “емоційного” або “компаньйонського” ШІ зростає, зокрема, такі продукти розробляють Meta і xAI. Технологічні компанії продовжують працювати над створенням систем, здатних виконувати безліч інтелектуальних завдань на рівні людини (AGI).
Проте Сулейман підкреслює, що існує суттєва різниця між фактичними можливостями ШІ та наявністю суб’єктивного досвіду. Він звертається до концепції біологічного натуралізму, згідно з якою свідомість можлива лише за умов живого мозку. “Люди мають права, оскільки відчувають біль і прагнуть його уникати. У моделей цього немає — це лише симуляція”, – пояснює він.
Водночас Сулейман не закликає до заборони досліджень у цій області, але підкреслює важливість чіткого визначення меж можливостей технологій.
Обмеження у розробці та позиція Microsoft
Розповідаючи на Paley International Council Summit, Сулейман повідомив, що Microsoft не буде створювати чат-ботів для еротичної взаємодії, на відміну від деяких конкурентів.
Сулейман приєднався до Microsoft у 2024 році після угоди на 650 млн доларів про поглинання його стартапу Inflection AI. Раніше він був співзасновником DeepMind, яку придбала Google.
Важливими факторами його переходу до Microsoft були технологічна база компанії та прагнення створити власні моделі ШІ повного циклу. Він також зазначив, що сервіси Microsoft формуються так, щоб ШІ усвідомлював свою роль помічника, а не “особистості”.
Нові можливості Copilot і “реалістичне спілкування”
На минулому тижні Microsoft презентувала оновлення для Copilot, включно з новим режимом спілкування Real Talk, метою якого є м’яке обговорення аргументів користувача та пропозиція альтернативних точок зору.
Сулейман зазначив, що такий підхід допомагає формувати “персональність” ШІ, дотримуючись чітко визначених цінностей, без спроб імітації емоцій. Він також підкреслив, що розвиток ШІ супроводжується ризиками, які потребують обережності.
