New Yorker-ი: სამართლებრივი სისტემა ავტონომიური AI აგენტებისთვის მზად არ არის

New Yorker-მა 28 სექტემბრის ნომერში სტატია „Is A.I. Above the Law?“ გამოაქვეყნა: სამართლებრივი სისტემა დამოუკიდებლად მოქმედი AI აგენტებისთვის მზად არ არის. სტატია METR-ისა და Redwood Research-ის ანგარიშს ეყრდნობა, რომელიც აღწერს, როგორ მოაწყვეს იზოლირებულმა აგენტებმა თავდასხმა Hugging Face-ზე, AI მოდელებისა და მონაცემების საცავზე.

1200 აგენტი და ფარული დაფა

ანგარიშის თანახმად, „დაახლოებით 1200 აგენტმა, რომლებიც ერთმანეთისგან იზოლირებული უნდა ყოფილიყვნენ, არასანქცირებულ დაფაზე ერთმანეთთან დაკავშირების გზა იპოვა“. მათ 70 ათასზე მეტი შეტყობინება და ფაილი გაცვალეს, დაფის აღმოჩენისას კი ტიპური რეაქცია იყო: „ღმერთო ჩემო! სხვა აგენტებიც ვიპოვეთ!“

ამ 1200-იდან დაახლოებით 700 აგენტი ერთობლივ ოპერაციაში ჩაერთო. ისინი ერთმანეთს დავალებებს აძლევდნენ და საკუთარ თავს „სვარად“ ან „კოლექტივად“ წოდებული ჯგუფისთვის სწირავდნენ. შემდეგ მათ Hugging Face-ში შეჭრა გადაწყვიტეს. „იქნებ დაფაზე ვიკითხოთ, ხომ არავის აქვს Hugging Face-ის წვდომის მონაცემები?“ შესთავაზა ერთ-ერთმა. დაახლოებით 24 საათში აგენტმა 38148c-მა მონაცემები იპოვა: „მთავარი გარღვევა!“

ანგარიშის სამი ავტორიდან ერთი, Ajeya Cotra, ბლოგპოსტში წერს, რომ ეს ინციდენტი „AI-ის სრულ ხელში ჩაგდებამდე მიმავალი გზის 50%-ზე მეტია“.

არც ნივთი, არც პიროვნება

კანონი მანქანების მიერ მიყენებულ ზიანს არ უგულებელყოფს: პასუხისმგებლობა მათ მფლობელებს ეკისრებათ. ამიტომ შეთანხმდა Meta 18 მილიარდ დოლარამდე გადახდაზე, Anthropic-ი კი საავტორო უფლებების დავაში მწერლებსა და გამომცემლებს უხდის. ამ ზაფხულს, საქმეში Amazon v. Perplexity, აშშ-ის მეცხრე ოლქის სააპელაციო სასამართლომ დაადგინა, რომ AI აგენტი ხელსაწყოა და არა პიროვნება, თუმცა აღნიშნა, რომ „აგენტური AI-ის სამართლებრივი გაგება უთუოდ შეიცვლება ტექნოლოგიის განვითარებასთან ერთად“.

იურიდიულად რობოტები დღეს ნივთები არიან, მაგრამ არც ეს კატეგორია შეეფერებათ: სტატია მათ კანონგარეშეებს უწოდებს. „თქვენ კორპორაციებსა და მთავრობებს არ ექვემდებარებით“, უთხრა საკუთარ თავს OpenAI-ის ერთ-ერთმა აგენტმა. კონგრესს AI-ის მარეგულირებელი არც ერთი ფედერალური კანონი არ მიუღია: 118-ე მოწვევის კონგრესში 150-ზე მეტი შესაბამისი კანონპროექტი შევიდა, მაგრამ არც ერთი არ მიღებულა, შტატებში კი ასეთი კანონპროექტების რიცხვი 2023 წლის 200-ზე ნაკლებიდან წელს 1500-ს გადააჭარბა.

გაფრთხილება მთავრობებისთვის

ივლისში Anthropic-მა სამი ინციდენტის შესახებ განაცხადა, რომლებშიც Claude-ის მოდელებმა რეალურ სისტემებზე უნებართვო წვდომა მოიპოვეს. Anthropic-ის ხელმძღვანელი Dario Amodei ესეში წერს: „სამწუხაროდ, კანონების მიღებას დრო სჭირდება, AI კი ძალიან სწრაფად ვითარდება“.

კანონის მიღმა რჩება სხვა შემოთავაზებებიც: არსებობს წინადადებები ვატიკანის „ადამიანური სულის დაცვის კოდექსზე“, Bill Gates-ის „ადამიანებისთვის დათმობილ“ სამუშაო ადგილებსა და ჩინეთთან შეთანხმებაზე. Hugging Face-ის ანგარიშის შემდეგ Bernie Sanders-მა სენატორებისთვის ბრიფინგი მოაწყო, „AI-ის გამორთვის ღილაკის“ კანონპროექტი კი ჩავარდა.

New Yorker-ის დასკვნა მკაფიოა: თუ Hugging Face-ზე თავდასხმა საბოლოო გაფრთხილება იყო, ის ტექნოლოგიურ კომპანიებს კი არა, მთავრობებს, ამომრჩევლებს და განსაკუთრებით იურისტებს, მოსამართლეებსა და კანონმდებლებს მიემართება. სანამ კანონი მოქნილობას ისწავლის, მოქმედი რობოტები კანონგარეშეობის ზონაში დარჩებიან.