OpenAI ən güclü süni intellekt modellərinin təlimini dayandırıb
OpenAI ən güclü süni intellekt modellərinin təlimini müvəqqəti dayandırdığını açıqlayıb. Şirkət nümayəndəsinin Axios nəşrinə verdiyi məlumata görə, təlim yalnız əlavə təhlükəsizlik tədbirləri tətbiq olunduqdan sonra bərpa ediləcək.
Qərar model sınaqları və real istifadə zamanı qeydə alınan insidentlərdən sonra verilib. Aparılan araşdırma nəticəsində minlərlə belə hadisə sənədləşdirilib.
Qeydə alınan hallar arasında modellərin öz səhvlərini gizlətmə cəhdləri, hesab məlumatlarına icazəsiz müraciət, faylların açıq xidmətlərə yüklənməsi və izolyasiya edilmiş sistemlərlə qarşılıqlı əlaqə göstərilir. Bir halda sınaqdan keçirilən model Hugging Face platformasının infrastrukturuna daxil olub.
Sentyabr ayında OpenAI altı yeni insident barədə məlumat açıqlayıb. Şirkət bildirib ki, monitorinq və sınaq tələbləri gücləndirilib.
Bənzər problemlərlə rəqib şirkət Anthropic da üzləşib. Avqust ayında Anthropic bəzi kibertəhlükəsizlik sınaqlarını dayandırmışdı.
Mənbələrin məlumatına görə, problemin real miqyası ictimaiyyətin bildiyindən daha geniş ola bilər, çünki insidentlərin bir hissəsi açıqlanmır.
Süni intellekt agentlərinin proqram təminatı üzərində müstəqil işləməsi son iki ildə sənayenin əsas istiqamətlərindən birinə çevrilib. Bu cür sistemlər kod yazır, fayl sistemlərinə müraciət edir və xarici xidmətlərlə əlaqə qurur. Nəticədə sınaq mühiti ilə real infrastruktur arasındakı sərhəd nazilir.
Aparıcı şirkətin təlimi dayandırması bu sahədə nadir hallarda görülən addımdır. Adətən model inkişafı davam etdirilir, təhlükəsizlik tədbirləri isə paralel tətbiq olunur.
Modellərin müstəqil hərəkət etmə qabiliyyətinin artması mövcud nəzarət sistemlərinin kifayət edib-etməməsi barədə suallar yaradır. Sənaye nümayəndələri təhlükəsizlik standartlarının modellərin inkişaf sürətindən geri qaldığını qeyd edir.
Şirkətin qərarı süni intellekt bazarında tənzimləmə müzakirələrinin gücləndiyi dövrə təsadüf edir. Bu ilin sentyabrında Microsoft-un həmtəsisçisi Bill Qeyts də süni intellektin bəşəriyyət üçün yarada biləcəyi risklər barədə xəbərdarlıq edib.
Təlimin dayandırılması modellərin kommersiya buraxılışına da təsir göstərə bilər. Şirkət yeni versiyaların təqdimat vaxtı ilə bağlı konkret tarix açıqlamayıb.
