Соглашение о безопасности ИИ оставляет контроль за лабораториями, повторяя саморегулирование автопрома 1960-х
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Во вторник руководители американских ИИ-компаний подписали в Белом доме соглашение о безопасности, контроль за исполнением которого остаётся в основном за самими лабораториями. Президент Трамп заявил, что компании будут «сами себя контролировать» и «контролировать друг друга». Такая схема повторяет провальные добровольные меры безопасности автопрома до введения федеральных требований в 1966 году.
Ключевые факты
- В 1966 году на дорогах США погибло почти 51 000 человек, и Конгресс в ответ создал Министерство транспорта и принял Закон о безопасности дорожного движения и автотранспортных средств, а также Закон о безопасности на шоссе.
- К 1968 году ремни безопасности стали обязательными в каждом новом автомобиле, и, несмотря на значительный рост трафика, сегодня на дорогах погибает гораздо меньше людей.
- Во вторник руководители ИИ-компаний подписали в Белом доме соглашение о безопасности, а в среду президент Трамп заявил, что компании будут «сами себя контролировать» и «контролировать друг друга».
- Билл Гейтс публично предупреждает об апокалипсисе ИИ, а экономика США всё больше опирается на индустрию ИИ через круговые финансовые сделки.
Прецедент автобезопасности 1966 года
В 1966 году на дорогах США погибло почти 51 000 человек, и данные свидетельствовали, что современные ремни безопасности, доступные уже несколько лет, могли бы спасти многие жизни. Автопром не стал добровольно устанавливать ремни безопасности, поэтому осенью 1966 года Конгресс создал Министерство транспорта и принял Закон о безопасности дорожного движения и автотранспортных средств, а также Закон о безопасности на шоссе. К 1968 году ремни безопасности стали обязательными в каждом новом автомобиле, и, несмотря на значительный рост трафика за последние 60 лет, сегодня на дорогах погибает гораздо меньше людей.
Соглашение о безопасности ИИ
Во вторник руководители ИИ-компаний собрались вокруг президента Трампа, чтобы подписать соглашение о безопасности ИИ, суть которого сводится к тому, что лаборатории должны сами себя контролировать. В среду в Овальном кабинете Трамп заявил: «Они будут контролировать, и они будут контролировать друг друга, и они будут сами себя контролировать, они будут контролировать себя. Всё получится очень хорошо». С одной стороны, руководители ИИ-компаний, сотрудники и технические эксперты говорят, что нужны чёткие, продуманные, тактические правила, чтобы избежать потенциальной катастрофы, а Билл Гейтс активно предупреждает об апокалипсисе ИИ. С другой стороны — магическое мышление Трампа: если повторять что-то достаточно часто, это станет правдой.
Контроль и экономические ограничения
Даже если все крупные лаборатории ИИ согласятся на замедление, нет надёжного способа заставить их сдержать слово, а Китай, вероятно, продолжит свой путь в любом случае. Экономика США всё больше опирается на индустрию ИИ, которая превратилась в уроборос из финансовых сделок и круговых инвестиций, поэтому любые серьёзные ограничения грозят крупной нестабильностью далеко за пределами Кремниевой долины. Для ИИ нет аналога ремня безопасности — простого решения, которое может заметно снизить риск за одну ночь, а на принятие законов об обязательном использовании ремней в большинстве штатов ушли десятилетия. Алармисты от ИИ говорят, что технология может привести к вымиранию человечества через десятилетие, а скептики называют это научно-фантастическим маркетинговым бредом.
1 источник
Время · отставание