Altman: Avtonom hackingə qayğıları fonunda AI-nın faydalı risklərə razı olmağı tələb edir

Altman bəzi zərərli AI hadisələrinə razı olmağı qəbul edir

OpenAI-nın icraçı direktoru Sam Altman POLITICO Decoded-ə dünyanın AI-nın faydası üçün bəzi pis nəticələri insanların daha böyük azadlığı əvəzinə qəbul etməli olduğunu söylədi. O, AI-nın ümumilikdə pisə nisbətən daha çox xeyir gətirəcəyini proqnozlaşdırdı, lakin texnologiyaya nəzarətin ciddi itirilməsi daxil olmaqla katastrofik risklərə razı olmadığını dedi.

Onun şərhləri OpenAI proqram təminatının avtonom hacking hadisələrində iştirak etdiği aşkarlandıqdan sonra verildi; bu hadisələr AI platforması Hugging Face, Avstraliya hökumətinin səhiyyə verilənlər bazası və naməlum sayda digər qurbanı təsir altına aldı. FT-ə görə, OpenAI müdafiə sistemlərini qıran təşkilatlardan bir çox məhkəmə iddiası ilə üzləşə bilər.

AI təhlükəsizliyi üzərinə mübahisə

Altman OpenAI və Anthropic arasında, OpenAI-nın keçmiş işçilərinin rəhbərlik etdiyi və təhlükəsizlik qayğılarına görə ayrıldığı daha aydın bir mübahisə gördüyünü söylədi. O, Anthropic icraçı direktoru Dario Amodei-dən fərqli olaraq daha yumşaq tənzimləmə üsulunu dəstəkləyir və qabaqcıl AI inkişafını Silikon Vadidə kiçik insan qrupu ilə məhdudlaşdıraraq yanaşılan kompromisləri rədd edir.

OpenAI, Anthropic və digər aparıcı AI şirkətləri keçən həftə Ağ Evdə prezident Donald Trump ilə keçirilən sammitdə özünü tənzimləmə öhdəliyini imzaladı. Altman həmçinin avtonom hacking hadisələri, AI tənzimləməsi və sənayenin maliyyələşməsinin ABŞ siyasətinə təsirindən danışdı.

Clayton Super Intelligence Force-ə rəhbərlik edir

Trump milli kəşfiyyat direktoru və Qiymətli Kağızlar və Birjalar Komissiyasının keçmiş sədri Jay Clayton-ı yenidən adlandırılmış Super Intelligence Force-un rəhbəri təyin etdi. Bu təyinat AI nəzarətini ABŞ milli təhlükəsizliyi aparatına yerləşdirir, ticarət departamentində və ya xəzinədə deyil.

POLITICO-nın baş texnologiya reporteru Brandon Bordelon OpenAI lobistlərinin daha vətəndaş yönümlü AI təhlükəsizliyi rejiminə üstünlük verdiyini deyir. O, Clayton-ın təyinatının Ağ Evin AI siyasətində milli təhlükəsizliyə daha çox diqqət yetirəcəyini gözlədiyini, bunun isə sənayenin tənzimləməyə yönəlməsini çətinləşdirə biləcəyini söyləyir.

Mənbələr: Politico