Искусственный интеллект развивается настолько быстро, что вопрос его безопасности постепенно выходит за пределы технологической индустрии. Теперь о потенциальной угрозе заговорили на уровне ООН. Верховный комиссар ООН по правам человека Фолькер Тюрк заявил, что продвинутые системы ИИ в перспективе могут представлять «экзистенциальный риск для человечества». Выступая 7 сентября перед Советом ООН по правам человека в Женеве, Тюрк отметил, что разделяет опасения специалистов самой AI-индустрии. «Я разделяю опасения представителей отрасли, что продвинутый ИИ может представлять экзистенциальный риск для человечества», — заявил он. Под «экзистенциальным риском» подразумевается сценарий, при котором развитие технологии способно поставить под угрозу само существование человеческой цивилизации или привести к последствиям, которые люди уже не смогут контролировать.
В ООН требуют установить «красные линии»
Читайте также
Как вырастить искусственные кровеносные сосуды с помощью 3D-принтеров?
Особое внимание Тюрк обратил на концентрацию контроля над искусственным интеллектом. По его словам, сегодня фактически лишь небольшое число людей обладает почти неограниченным влиянием на развитие этой технологии. Reuters отмечает, что крупнейшие разработчики передовых моделей включают OpenAI, Google, Meta и Anthropic. Тюрк призвал государства, где разрабатываются AI-системы и располагаются ключевые элементы их цепочек поставок, договориться хотя бы о базовых международных «красных линиях». Он также потребовал создать максимально жесткие гарантии безопасности ИИ «до того, как станет слишком поздно». Подобные опасения звучат не впервые. О рисках потери контроля над будущими интеллектуальными системами ранее говорили и представители самой AI-индустрии. Однако теперь проблема все активнее переходит из области теоретических дискуссий в сферу международной политики.
ООН пытается создать глобальные правила для ИИ
В июле 2026 года в Женеве состоялся первый Глобальный диалог ООН по управлению искусственным интеллектом. В нем приняли участие представители почти 170 стран, компаний, научного сообщества и общественных организаций. Площадка должна стать постоянным механизмом обсуждения международных правил для AI. Генеральный секретарь ООН Антониу Гутерриш тогда предупреждал, что искусственный интеллект внедряется настолько быстро, что за его развитием не успевают даже сами создатели технологии. Главная проблема заключается в том, что единых глобальных правил пока нет. Отдельные государства создают собственные нормы, тогда как крупнейшие AI-модели одновременно работают во множестве стран.
Поэтому заявление Фолькера Тюрка выглядит скорее не прогнозом неминуемой катастрофы, а призывом ускорить создание международных механизмов контроля. Чем мощнее становятся AI-системы и автономные агенты, тем сложнее будет вводить ограничения постфактум. И главный вопрос теперь состоит уже не в том, продолжит ли искусственный интеллект развиваться. Вопрос в другом: успеет ли система контроля за ИИ развиваться так же быстро, как сам ИИ.
Меню 
Знания 
События 
Новости 
Курсы валют