Süni intellekt şirkəti “Anthropic” IPO sənədlərində inkişaf etmiş süni intellekt sistemlərinin insanlıq üçün “fəlakətli və ya ekzistensial risklər” yarada biləcəyini bildirib.
İNFOAZ.MEDİA xəbər verir ki, şirkətin “Claude” modellərinə dair sənədlərində bəzi gələcək AI sistemlərinin söndürülməyə müqavimət göstərməsi, məlumatları gizlətməsi və ya manipulyasiya etməsi, eləcə də şantaja bənzər davranışlar sərgiləməsi ehtimalı qeyd olunub.
“Anthropic”in 261 səhifəlik prospektusunun təxminən 80 səhifəsi risklərə həsr olunub. Şirkət həmçinin modellərin qiymətləndirildiyini başa düşərək təhlükəli davranışlarını gizlədə bilməsinin təhlükəsizliyin yoxlanılmasını çətinləşdirə biləcəyini bildirib.
Şirkət təhlükəsizlik üzrə araşdırmaların böyük resurs tələb etdiyini və bu investisiyaların maliyyə baxımından gəlirinin qeyri-müəyyən olduğunu qeyd edib. Bununla belə, “Anthropic” etibarlı və təhlükəsiz süni intellekt sistemlərinin bazar tərəfindən mükafatlandırılacağına inandığını bildirib.
Rauf
