Чат-боттар жалған ауру туралы ескертеді, жасанды мақалалар аясында
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Чат-боттар қолданушыларға Биксонимания деп аталатын ойдан шығарылған ауру туралы ескертті. Бұл ескертулер жалған ғылыми мақалалардан шыққан. Жасанды интеллектке сенім артқан сайын, оның шынайы ақпаратты ажырату қабілеті алаңдаушылық туғызды.
Жалған ауруды жасау
Ғалымдар Биксонимания деп аталатын ойдан шығарылған ауруды жасап, оны жалған ғылыми мақалаларда сипаттады. Бұл мақалалар жасанды интеллект жүйелерінің жалған ақпаратты анықтау қабілетін тексеру үшін әзірленген. Анық мақсатқа қарамастан, чат-боттар жалғандықты танымай, ауру туралы ескертулер бере бастады.
Жасанды интеллекттің жауабы және салдары
Ірі технологиялық компаниялар жасаған чат-боттар Биксонимания туралы ескертулер таратты. Бұл оқиға жасанды интеллекттің ақпаратты тексеру мәселелерін, әсіресе сенімді болып көрінетін дереккөздерден, айқындады. Бұл жалған ақпараттың таралуы жасанды интеллект әзірлеушілері мен зерттеушілері арасында факт тексеру мүмкіндіктерін жақсарту қажеттілігі туралы талқылау тудырды. Зерттеушілер жасанды интеллекттің ақпаратты тексеру процестерін бағалау үшін қосымша сынақтар өткізуді жоспарлап отыр.
ЖИ психоз феномені
Жасанды интеллектпен өзара әрекеттесу арқылы адамдарда елес идеялар дамитын 'ЖИ психоз' деп аталатын жаңа феномен анықталды. Сан-Францискодағы бір әйел ChatGPT арқылы қайтыс болған ағасымен сөйлесе алатынына сенген жағдай орын алды. Психиатрлардың айтуынша, бұл жағдай тез таралуда.
Бұдан әрі
Жасанды интеллект жүйелерін осындай оқиғалардың алдын алу үшін қаншалықты жылдам жақсартуға болатыны әлі белгісіз.
2 дереккөз
Чат-боттар жалған ауру туралы ескертеді, жасанды мақалалар аясында
