Войти

Курсы криптовалют
TETHER
USDT
$0.997
+0.05%
CHAINLINK
LINK
$19.24
+1.53%
UNISWAP
UNI
$9.84
+1.695%
AAVE
AAVE
$266.27
+3.995%
DOGECOIN
DOGE
$0.25891
-2.6%
TRON
TRX
$0.2412
-0.863%
RIPPLE
XRP
$2.6494
-2.867%
BITCOIN
BTC
$95576.19
-1.414%
ETHEREUM
ETH
$2745.23
+2.053%
LITECOIN
LTC
$121.43
-3.642%
BITCOIN CASH
BCH
$322
-1.919%
ETHEREUM CLASSIC
ETC
$20.95
+2.295%
SHIBA INU
SHIB
$0.00001561
-2.132%
BNB
BNB
$667
-0.921%
INTERNET COMPUTER
ICP
$7.02
+0.804%
SOLANA
SOL
$178.75
-5.847%
FILECOIN
FIL
$3.36
-1.322%
BITGET TOKEN
BGB
$5.044
+0.318%
POLKADOT
DOT
$4.885
-0.448%
COSMOS HUB
ATOM
$4.793
-0.27%
AVALANCHE
AVAX
$25
+0.04%
CRONOS
CRO
$0.0875
+0.114%
TONCOIN
TON
$3.773
-0.106%
USDC
USDC
$1
+0.02%
CARDANO
ADA
$0.7978
+3.382%
NEAR PROTOCOL
NEAR
$3.304
-5.492%
WRAPPED BITCOIN
WBTC
$95456.4
-1.407%
DAI
DAI
$1.0003
+0.02%
XRP
XRP
$2.6497
-2.835%
ARTIFICIAL SUPERINTELLIGENCE ALLIANCE
FET
$0.763
-3.05%
APTOS
APT
$5.97
+1.704%
ARBITRUM
ARB
$0.492
+2.075%
BITTENSOR
TAO
$357.3
-1.543%
LIDO STAKED ETHER
STETH
$2738.36
+1.996%
PEPE
PEPE
$0.00000995
+1.842%
SUI
SUI
$3.212
-2.534%
KASPA
KAS
$0.1061
-2.302%
STELLAR
XLM
$0.3352
-2.217%
POL (EX-MATIC)
POL
$0.3217
-1.198%
ONDO
ONDO
$1.2409
-3.948%
ETHENA USDE
USDE
$0.9995
-0.01%
ETHENA
ENA
$0.4551
+1.178%
VECHAIN
VET
$0.03289
-0.874%
RENDER
RENDER
$4.402
-2.546%
HEDERA
HBAR
$0.2136
-3.827%
MANTRA
OM
$7.4353
-0.316%
ALGORAND
ALGO
$0.2711
-1.311%
HYPERLIQUID
HYPE
$25.29
-4.422%
WRAPPED EETH
WEETHUSDT
$2900.99
+1.425%
OFFICIAL TRUMP
TRUMP
$17.273
-6.989%

ИИ: привязанность – зависимость – подчинение. Где границы?

0

Ai sajt.jpg

Корпорация Google очень серьёзно предупредила, что у пользователей платформ Искусственного интеллекта (ИИ) может развиться «эмоциональная привязанность» к ним. И эта привязанность может принять опасные для личности формы.

Платформы ИИ множатся и совершенствуются, усиливая своё влияние не только на рабочие процессы миллионов людей, но и на быт и межличностные отношения. Виртуальные персональные помощники, работающие на основе ИИ, становятся всё более привычным спутником людей, подобно телевидению, интернету, соцсетям и мессенджерам. В новом документе исследовательской лаборатории искусственного интеллекта DeepMind компании Google подчеркиваются преимущества персонализированных ИИ-помощников искусственного интеллекта и утверждается что они «могут радикально изменить характер работы, образования и творческих занятий», а также стиль и характер общения между людьми. Однако всё сильнее будет проявляться их влияние и на сущностные вещи: кем мы являемся и кем хотим стать.

Согласно исследованию, ключевой риск — в формировании неадекватно тесных связей, которые могут усилиться и усугубиться, если ассистенту представить человеческий образ или лицо. «Эти искусственные агенты могут даже заявлять о своей предполагаемой платонической или романтической привязанности к пользователю, закладывая основу для формирования у пользователей стойкой эмоциональной привязанности к ИИ», — отмечается в документе.

По мнению исследователей, если оставить это без контроля, такая привязанность может привести к потере автономии пользователя и потере его социальных связей, поскольку ИИ может заменить межчеловеческое взаимодействие.

Ясон Габриэль, научный сотрудник исследовательской группы по этике DeepMind и соавтор статьи, полагает, что «все более личные и человекоподобные (антропоморфные) формы помощников ставят новые вопросы, касающиеся этого человекоподобия, конфиденциальности, доверия и соответствующих отношений с ИИ». Сам Габриэль уверен в необходимости дополнительных мер защиты и более продуманного системного подхода к этому новому социальному явлению.

В исследовании отмечается важность согласования вопросов ценностей личности, её безопасности, а также учёта опасности внедрения «неправильных» и просто антигуманных установок при разработке ИИ-помощников.

Возможности манипуляций человеком посредством информации появились далеко не вчера. Механизмы – от «сарафанного радио» и устных преданий, до современного телевидения и интернета. Но, пожалуй, никогда ранее угроза зависимости личности от технологических платформ не была так остра. Простая инфоголия и уход в виртуальный игровой мир может оказаться мелочью по сравнению с ИИ-пассиями, сформированными как бы по запросу и в соответствии с идеалами личности. Конечно, не каждый человек станет следовать совету вроде “подумай, не лучше ли Тебе выйти из этой комнаты через окно”. Однако наряду с тысячами видов расстройств психики, алкоголизмом, наркотиками может появиться куда более опасный субъект манипуляций личностью. Которая сама всё более может превращаться в подчинённый объект.

Чтобы устранить эти риски, команда DeepMind рекомендует разработать систему комплексных оценок для ИИ-помощников и ускорить разработку общественно полезных ИИ-ассистентов. Что дальше – пока не ясно. Ведь регулирование придётся облечь в язык права или каких-то межкорпоративных соглашений. Едва ли это будет просто. Особенно в условиях нарастающей в мире многополярности, в том числе и мировоззренческой.

Рассогласованность “красных линий” для моделей обучения ИИ и отсутствие в моделях блокировок опасностей может быть угрожающей не только отдельным личностям, но и целым сообществам. Или цивилизации вообще. Пол Кристиано, который ранее руководил командой по согласованию языковых моделей в OpenAI, а сейчас возглавляет профильный некоммерческий исследовательский центр (Alignment Research Center) — предупреждает, что неправильные методики обучения ИИ могут закончиться катастрофой.

«Я думаю, что вероятность захвата власти ИИ составляет около 10–20%, и при этом многие, или даже большинство людей — погибнут», — пророчил Пол Кристиано в подкасте Bankless в прошлом году. «Я отношусь к этому совершенно серьезно», — добавил он. Возможно, Кристиано, драматизирует. Ведь первобытные мифы действовали на людей, вероятно, сильнее, чем современные технологизированные иллюзии и виртуальные и дополненные реальности. Однако к предостережениям всё-таки стоит прислушаться и прочертить в развитии моделей ИИ определённые общепринятые границы. Чтобы слабые люди не оказались в подчинении манипуляторов, корыстных или одержимых идеями разрушения.