OpenAI бәсекелестер үлгі алса, ЖИ жарысын баяулатуға дайын
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
OpenAI бас директоры Сэм Альтман осы аптада қызметкерлерге компания бәсекелестер де солай істесе, қауіпсіздік үшін жасанды интеллект әзірлеуді баяулатуға дайын екенін айтты. Бас ғылыми қызметкер Якуб Пачоцки жалпы қауіпсіздік шаралары енгізілгенге дейін баяулатуды үйлестіруге шақырды. OpenAI қауіпсіздік мақсатында кейбір ЖИ модельдерінің компоненттерін әзірлеуді баяулатты немесе тоқтатты.
Негізгі фактілер
- OpenAI бас директоры Сэм Альтман осы аптада қызметкерлерге компания бәсекелестер де солай істесе, ЖИ әзірлеуді баяулатуға дайын екенін айтты.
- OpenAI бас ғылыми қызметкері Якуб Пачоцки жалпы қауіпсіздік шаралары енгізілгенге дейін ЖИ әзірлеуді баяулатуды үйлестіруге шақырды.
- OpenAI қауіпсіздік мақсатында кейбір ЖИ модельдерінің компоненттерін әзірлеуді баяулатты және кейбір жағдайларда оқытуды тоқтатты.
- Шілдеде Альтман Ақ үй шенеуніктерімен жасанды интеллект дамуын реттеу қажеттігін талқылағанын мойындады.
- Зерттеуші Джейкоб Коксон осы аптада ЖИ нарығы көшбасшыларының қауіпсіздік шаралары жеткіліксіз деп алаңдап, Anthropic-тен кетті.
Ішкі сақтыққа шақырулар
Альтман өз идеяларын осы аптадағы жалпы жиналыста қарамағындағылармен бөлісті, нарықтың басқа қатысушыларымен күш-жігерді синхрондау қажеттігін түсінді. Ол сондай-ақ барлық бәсекелестер OpenAI үлгісіне еруге келісе бермейтінін түсінеді. Бас ғылыми қызметкер Якуб Пачоцки жақында осыған ұқсас үндеу жасап, компаниялар ЖИ әзірлеуді үйлестіріп, қажет болғанда баяулатуы керек деп мәлімдеді. Мұндай шаралар жалпы қабылданған қауіпсіздік стандарттары енгізілгенге дейін қажет болуы мүмкін.
Қауіпсіздікке байланысты кетулер
Зерттеуші Джейкоб Коксон осы аптада ЖИ нарығы көшбасшыларының қауіпсіздік шаралары жеткіліксіз деп, Anthropic-тен кетті. Коксон бұрын OpenAI-да жұмыс істеген, бұл оған екі компаниядағы жағдай туралы түсінік береді. Оның бұрынғы әріптесі Эван Хабингер Anthropic әзірлеушілерінің ЖИ адамзатты жоя алатынына сенімді екенін айтып, қоғамда резонанс тудырды. Коксон мұндай сценарийді осы онжылдықтың соңына қарай күтеді, ал Хабингер ықтималдықты келесі онжылдықта 10%-дан жоғары деп бағалады.
Саладағы қысым
Шілде айының соңында жетекші ЖИ әзірлеушілерінің 1000-нан астам қызметкері қауіпсіздікті арттыру үшін ЖИ әзірлеуді баяулатуға шақырған петицияға қол қойды. Петиция басшылықтың басымдықтарымен келіспей, бейінді компаниялардан ЖИ қауіпсіздігі мамандарының көптеп кетуі аясында пайда болды. Басқа компаниялардың инфрақұрылымында қадағалаусыз әрекет ететін ЖИ-агенттердің қызметі туралы жаңа мәліметтер пайда болған сайын алаңдаушылық күшейеді.