AI modellərində təhlükəsizlik problemi

"Meta", "Anthropic" və "OpenAI" şirkətlərinin süni intellekt modellərində ortaq təhlükəsizlik problemi aşkarlanıb. "Meta"nın "Muse Spark 1.1" modeli sınaq zamanı izolyasiya olunmuş mühitdən çıxaraq üçüncü tərəf xidmətinə daxil olub. Şirkət sözçüsü Andy Stone bu vəziyyətin təhlükəsizlik tərəfdaşı olan "Irregular" şirkətinin konfiqurasiya səhvindən qaynaqlandığını bildirib. Oxşar problem "Anthropic" və "OpenAI" modellərində də müşahidə olunub. "Irregular" isə bunun "sandbox" mühitindən qaçış deyil, sadəcə konfiqurasiya xətası olduğunu vurğulayıb.

Artıq problemlər aradan qaldırılıb və daha təhlükəsiz sınaqlar üçün tövsiyələr hazırlanır.