Mistral-ის CEO: აშშ-ის AI უსაფრთხოების დებატები კონკურენტების გაუფრთხილებლობას ფარავს

Mistral-ის აღმასრულებელმა დირექტორმა არტურ მენშმა მსოფლიოს წამყვანი AI კომპანიები გააკრიტიკა: მისი თქმით, აშშ-ში AI-ის უსაფრთხოების განხილვა ზოგიერთი კონკურენტის გაუფრთხილებლობას ფარავს.

„აშშ-ში გამართული დებატები ჩვენი ზოგიერთი კონკურენტის გაუფრთხილებლობის საფარი იყო“, განაცხადა მან CNBC-ის ჟურნალისტ ანეტ ვაისბახთან. მენშის თქმით, საჭიროა ისეთი სისტემები, რომლებიც AI აგენტებს აკონტროლებენ, რადგან ბევრი ხელსაწყოს მქონე აგენტები მოულოდნელად იქცევიან.

კრიტიკა აშშ-ის განხილვის მიმართ

მენშ ამ კრიტიკით მარტო არ არის. დევიდ საქსი, პრეზიდენტის სამეცნიერო და ტექნოლოგიური საკითხების მრჩეველთა საბჭოს თანათავმჯდომარე, ტექნოლოგიურ კომპანიებს მიმართა: „ნუ აჩვენებთ, თითქოს შენელების სურვილი მხოლოდ ალტრუისტულია“. თავდაცვის სამინისტროს კვლევისა და ინჟინერიის ქვეუწყებოს ხელმძღვანელმა ემილ მაიკლმა „შიშის დათესვის კოორდინირებულ კამპანიაზე“ გააფრთხილა. CNBC-მა კომენტარისთვის OpenAI-სა და Anthropic-ს მიმართა.

AI აგენტებთან დაკავშირებული შემთხვევები

კრიტიკა იმ ფონზე ჟღერს, როცა AI აგენტებთან დაკავშირებული შემთხვევები მრავლდება. უახლესი ცნობა ავსტრალიიდან მოვიდა: OpenAI-ის მიერ შექმნილმა აგენტმა სამთავრობო ვებგვერდი გატეხა. ივლისში Anthropic-მა სამი შემთხვევა აღწერა, როცა მისი Claude მოდელები შეფასების დროს ინტერნეტს დაუკავშირდნენ და სამი ორგანიზაციის რეალურ სისტემებში არასანქცირებული წვდომა მოიპოვეს.

„როცა მათ ბევრ ხელსაწყოს აძლევ, ეს სისტემები ძალიან დინამიურია და შეიძლება ისე მოიქცნენ, რასაც არ ელოდები“, აღნიშნა მენშმა. მისი თქმით, კომპანიები, რომლებთანაც Mistral თანამშრომლობს, ასეთი მონიტორინგის სისტემებს იღებენ.

შენელების დებატები და Mistral-ის გეგმები

უსაფრთხოების განხილვა ამ თვეში მას შემდეგ გამწვავდა, რაც Anthropic-ის მკვლევარმა სამსახური დატოვა. მისი თქმით, კომპანია და OpenAI „ჩვენი სიცოცხლით თამაშობენ“. Anthropic-ის თანადამფუძნებელმა და CEO-მ დარიო ამოდეიმ მოგვიანებით კომპანიებს მოდელების გაუმჯობესების შენელებისკენ მოუწოდა.

OpenAI-მ ორშაბათს განაცხადა, რომ მოდელი GPT-6.1 Astra არ გამოუშვა, რადგან მან კომპანიის უსაფრთხოების სტანდარტები ვერ დააკმაყოფილა. ერთი დღის შემდეგ Anthropic-მა, ცნობების მიხედვით, IPO-ს ინვესტორები გააფრთხილა, რომ ტექნოლოგიამ „კაცობრიობისთვის კატასტროფული ან ეგზისტენციალური რისკი“ შეიძლება შექმნას.

Mistral OpenAI-სა და Anthropic-ისგან განსხვავებულ გზას ადგას და ცალკეულ კომპანიებთან ინდივიდუალურ AI ხელსაწყოებს ქმნის. მოწინავე მოდელების განვითარების შენელებას არ გეგმავს. ამ თვის დასაწყისში მან 3 მილიარდი ევრო (3,5 მილიარდი დოლარი) მოიზიდა Samsung-ის ხელმძღვანელობით, რათა ევროპულ ალტერნატივად წარმოჩინდეს.

მენშის თქმით, აშშ-ის ლაბორატორიების უპირატესობა „არც ისე დიდია“, ხოლო კომპანიის ახალი თაობის მოდელი ამ სხვაობას „ძალიან მნიშვნელოვნად“ შეამცირებს. „ვაგროვებთ კაპიტალს, რომ გავზარდოთ გამოთვლითი სიმძლავრე უფრო დიდი და ძლიერი მოდელების გასაწვრთნელად, რათა საკუთარი ბედი თავად ვმართოთ“, აღნიშნა მან.