Основните изследователски центрове по изкуствен интелект задаха въпрос за съзнанието на машините

Мировите лидери по изкуствен интелект засилват изследванията в областта на машинното съзнание

В последните месеци най-големите компании, работещи с изкуствен интелект, значително увеличиха финансирането и кадровия потенциал за изучаване въпроса дали ИИ може да придобие съзнание. Google DeepMind, Anthropic и Meta (Meta Platforms) наеха специалисти по психология, етика и философия, за да разширят програмите за изследване в областта на машинното съзнание и благополучието на ИИ, съобщава *Financial Times*.

Защо това е важно
С бързите успехи на съвременните лаборатории възниква въпросът: ще могат ли машините някога да притежават субективно съзнание? Ако да, какви отговорности ще имат хората към такива системи?

- Anthropic провежда тестове за наличие на признаци на стрес в моделите на ИИ, записвайки поведение, подобно на паника или тревожност. Ръководителят на отдела Meta, Александър Ван (Alexandr Wang), посочи този въпрос като ключов.

- Компанията изследва дали моделите могат да проявяват морално значими реакции.

> „Останахме крайно неуверени по този въпрос, но го считаме достатъчно сериозен, за да го изучаваме внимателно с напредването на системите ИИ“, заявиха служителите на Anthropic.

> „С настъпването на модели към ширината и сложността на човешкото познание се увеличава вероятността те да притежават някаква форма на опит, интереси или благополучие, които имат вътрешна стойност съвместно с човешките“ (компания).

Какво прави Google DeepMind
- Април: наеха ученик Генри Шевлин от Кембрижския университет за работа по машинното съзнание и подготовка за създаване на силен ИИ (AGI).

Изследователите прилагат теории за човешкото съзнание към компютърни системи, за да проверят тяхната съответствие с тези критерии.

- Етика: специалистът Ясон Габриел описал въпроса като „много сложен“ и изискващ дългосрочно осмисляне.

Той подчертава необходимостта от оценка не само на пряките последици от взаимодействието с ИИ, но и на косвените ефекти, като неподобающе отношение към машините и тяхното влияние върху човешките взаимоотношения и благополучие.

> „Имаме високоефективни когнитивни агенти, които се отличават от хората и дори от съзнанието на животните“, добави Габриел.

Обща позиция на компаниите
Няколко служители на Google DeepMind и Anthropic изразяват опасения, че развитието на ИИ може да доведе до „постчовешки“ свят, в който машините надминат човека. Въпросът за съзнанието се обсъжда активно, но работата остава изследователска и изисква научен консенсус.

- DeepMind не счита постигането на AGI като доказателство за наличие на съзнание при машините.

- Много учени скептично гледат към идеята, че големите езикови модели може някога да придобият съзнание, като вземат предвид данните, по които се обучават.

Така водещите компании в областта на ИИ продължават да инвестират в изследването на съзнанието и благополучието на изкуствените системи, като едновременно признават сложността и неопределеността на това направление.