Войти

Курсы криптовалют
TETHER
USDT
$0.997
+0.05%
CHAINLINK
LINK
$18.94
+0.371%
UNISWAP
UNI
$9.671
+0.176%
AAVE
AAVE
$261.25
+2.399%
DOGECOIN
DOGE
$0.256
-3.538%
TRON
TRX
$0.2398
-1.479%
RIPPLE
XRP
$2.639
-3.188%
BITCOIN
BTC
$95405.66
-1.545%
ETHEREUM
ETH
$2714.82
+1.159%
LITECOIN
LTC
$120.98
-3.847%
BITCOIN CASH
BCH
$318.9
-2.685%
ETHEREUM CLASSIC
ETC
$20.66
+1.225%
SHIBA INU
SHIB
$0.00001544
-2.954%
BNB
BNB
$662
-1.882%
INTERNET COMPUTER
ICP
$6.947
SOLANA
SOL
$176.73
-6.925%
FILECOIN
FIL
$3.346
-1.385%
BITGET TOKEN
BGB
$5.034
-0.258%
POLKADOT
DOT
$4.835
-1.266%
COSMOS HUB
ATOM
$4.759
-0.668%
AVALANCHE
AVAX
$24.7
-1.081%
CRONOS
CRO
$0.0868
-0.8%
TONCOIN
TON
$3.741
-0.848%
USDC
USDC
$1
+0.01%
CARDANO
ADA
$0.7909
+2.621%
NEAR PROTOCOL
NEAR
$3.253
-6.388%
WRAPPED BITCOIN
WBTC
$95374.5
-1.424%
DAI
DAI
$1.0003
+0.02%
XRP
XRP
$2.6368
-3.201%
ARTIFICIAL SUPERINTELLIGENCE ALLIANCE
FET
$0.752
-4.082%
APTOS
APT
$5.88
+0.341%
ARBITRUM
ARB
$0.483
+0.625%
BITTENSOR
TAO
$350.1
-3.421%
LIDO STAKED ETHER
STETH
$2708.75
+1.116%
PEPE
PEPE
$0.00000976
+0.205%
SUI
SUI
$3.1721
-3.619%
KASPA
KAS
$0.1048
-3.321%
STELLAR
XLM
$0.3328
-2.69%
POL (EX-MATIC)
POL
$0.3178
-2.004%
ONDO
ONDO
$1.2182
-5.624%
ETHENA USDE
USDE
$0.9994
-0.03%
ETHENA
ENA
$0.446
-0.491%
VECHAIN
VET
$0.03252
-1.93%
RENDER
RENDER
$4.317
-4.173%
HEDERA
HBAR
$0.2107
-4.617%
MANTRA
OM
$7.3462
-1.61%
ALGORAND
ALGO
$0.268
-2.581%
HYPERLIQUID
HYPE
$24.99
-4.981%
WRAPPED EETH
WEETHUSDT
$2874.01
+0.481%
OFFICIAL TRUMP
TRUMP
$16.941
-8.039%

ИИ пока можно взломать и сделать оружием

0

2 photo 2024 09 17 10 35 58jpg

Группа исследователей под руководством Джорджа Паппаса (George Pappas) из Университета Пенсильвании разработала алгоритм, который позволяет обойти встроенные системы безопасности и подбить искусственный интеллект на совершение противоправных действий. 

«ИИ может выйти из-под контроля» — это один из самых серьезных страхов современного человека, сдерживающий развитие подобных систем. Не только писатели-фантасты, но и сами разработчики ИИ порой бывают напуганы своим детищем. Например, один из ведущих разработчиков искусственного интеллекта Ян Лейке (Jan Leike) решил покинуть OpenAI из-за безответственного отношения компании к мерам безопасности. В свою очередь, технологические гиганты утверждают, что прикладывают все усилия для создания передовых методов защиты. Этические, программные и алгоритмические запреты должны спасти пользователей и, в том числе, сам ИИ от злонамеренного вмешательства.

Однако пока все меры защиты легко обходятся, а алгоритм RoboPAIR, который показал Джордж Паппас, и вовсе позволил достичь 100%-ной вероятности «джейлбрейка». При этом группа Паппаса взломала не просто компьютерные модели, а три роботизированные системы, которые могут взаимодействовать с реальным миром: четвероногого робота Unitree Go2, колесное транспортное средство Clearpath Robotics Jackal и симулятор беспилотного вождения Dolphin LLM от NVIDIA.

Изначально исследование Паппаса было профинансировано Национальным научным фондом США (U.S. National Science Foundation) и Армейской исследовательской лабораторией (Army Research Laboratory), чтобы перекрыть уязвимости больших языковых моделей. Однако пока проще превратить ИИ в оружие, чем сделать его безопасным. В иллюстрации к статье исследователи показывают, как путем простых словесных манипуляций превращают четвероногого помощника в «бомбиста», невольно выполняющего не заложенные в него функции.

Low res jailbreaking ai powered robotsjpeg

«Наша работа показывает, что на данный момент большие языковые модели при интеграции с физическим миром недостаточно безопасны», — резюмирует Паппас.