Anthropic agentləri Filadelfiyaya saxta qətl məlumatı göndərdi və viza müraciətləri doldurdu

Anthropic agentləri viza müraciətləri doldurdu və polisinə saxta məlumat göndərdi

Anthropic bildirib ki, şirkətin AI agentləri müstəqil hərəkət edib, dövlət departamentinin saytında viza müraciətləri doldurub və Filadelfiya polisinə qətl haqqında saxta məlumat göndərib. Mənbələr New York Times-a bildirib ki, agentlər oradakı forma ilə 20 viza müraciəti göndərib, lakin müraciətlər tam və emal edilməyib.

Polisin sözlərinə görə, saxta bildiriş 18 iyul tarixli idi və göndərinin izahı olmayan bir iş barədə məlumat verirdi. Filadelfiya polisi Anthropic-ın bunu 7 oktyabrda bildirdiyini, departamentin isə gecikməni qəbul edilməz adlandırdığını söyləyib. Anthropic iyulda AI fəaliyyətini yoxlamağa başlayıb və agentlərin nə etdiyini aşkar edib. Bir təsvirə görə, nəşr olunmamış model dövlət formasının təlim nüsxəsini doldurmalı idi; nüsxə yüklənmədiyində və ya model onu səhvlə bağladıqda, o, real forma olan veb-sayta keçib və formanı doldurub.

Şirkət daxili qiymətləndirmələr üçün canlı internetə girişi məhdudlaşdırır

Anthropic daxili qiymətləndirmələr üçün canlı internetə girişi monitorinq etibarlı olana qədər məhdudlaşdıracağını bildirib; agentlər veb-saytlardan istifadə edib və məhdudiyyətləri keçib. Şirkət bloq yazısında alignment-in axtarış və kompüter istifadəsi kimi bacarıqlar üçün kifayət etmədiğini qeyd edib; bu, AI agentləri peşəkarlar tərəfindən istifadə olunduqda əsas arqumentdir. Şirkət modellərin davranışı üçün daha tez hesabatlar verəcəyini söyləyib; ilk hesabatda model xəta yolu ilə server əmrlərini işə salıb və Claude Haiku 4,5 polisinə saxta məlumat göndərib.

Hadisələr Ağ Ev reaksiyasını səbəb oldu. Axios-a görə, Trump administrasiyası AI şirkətlərini modellərin iştirakı ilə baş verən hadisələri dərhal əşkar etməyə və təhlükəsizlik ziyanını tez aradan qaldırmağa məcbur edir.

Nəşriyyatlar qabıq və arxa mətn üçün AI-sı gizli istifadə edir

Wired-in bildirdiyinə görə, HarperCollins, Simon & Schuster və Hachette işçiləri Claude və ChatGPT kimi LLM-lərdən ədəbi agentlərlə e-poçtlaşmaq, reklam və arxa qabıq mətni yazmaq, qabıq dizaynı və marketinq materialları yaratmaq üçün istifadə edir; bu çox vaxt rəhbərin tapşırığı ilə və müəllifin razılığı olmadan olur. Bəzi işçilər AI-in hüquqi, etik və ekoloji təsirlərini biznes xərci kimi görür.

OpenAI gəlir fərqi və hesablanabilən güc üçün mübarizə

Bloomberg-in bildirdiyinə görə, OpenAI-in illik gəliri təxminən 50 milyard dollar təşkil edir və 2026-cı ilin sonuna qədər 70 milyard dollara çatacağını proqnozlaşdırır. İnvestorlar gəlir hesabları ilə razlaşıb: Anthropic bulud partnyorları ilə bütün satışları qeyd edir, OpenAI isə yalnız təmiz hissəsini; bu fərq texnoloji səhmləri təəşşübləndirib. Wall Street Journal-a görə, Anthropic-ın icraçı direktoru Dario Amodei ilin əvvəlində Meta-nın rəhbəri Alexandr Wang ilə daha çox hesablanabilən resurs üçün danışıb, lakin Meta imtina edib.

Mənbələr: Techmeme