სტენფორდის პროფესორი TCP-ის ნაცვლად ახალ პროტოკოლ Homa-ს გვთავაზობს

TCP, პროტოკოლი, რომელზეც ინტერნეტი და ღრუბლოვანი სერვისებია აწყობილი, AI-ის ეპოქის დატვირთვისთვის ცუდად გამოდგება, ამბობს სტენფორდის უნივერსიტეტის დამსახურებული პროფესორი ჯონ ოუსტერჰაუტი. გამოსავლად მან ახალი პროტოკოლი, Homa შემოგვთავაზა და მის გავრცელებას ახლა თავის „ცხოვრების მისიად“ მიიჩნევს.

„TCP, მთელი თავისი დამსახურების მიუხედავად, დატაცენტრებისთვის არ ვარგა“, თქვა ოუსტერჰაუტმა AI Engineer World's Fair-ზე.

რატომ აღარ გამოდგება TCP

TCP ქსელური მოძრაობის მოსაწესრიგებლად შეიქმნა: მას ნაკადის კონტროლი, მიწოდების გარანტია და გადატვირთვის მართვა აქვს. მაგრამ მისი მონაცემთა მოდელი ბაიტების ნაკადია: შეტყობინებები პრიორიტეტის გარეშე იგზავნება და მიმღები გრძელ გადაცემას მოკლეს ვერ არჩევს. გამომგზავნი კი დასტურებზე დაყრდნობით იძულებულია გამოიცნოს, რამდენად შეანელოს ნაკადი.

ჩვეულებრივი ინტერნეტ-მოძრაობისთვის ეს მისაღებია, დაგვიანებაზე მგრძნობიარე AI დატვირთვისთვის კი არა: ლაბორატორიები ძვირადღირებულ GPU-ებს შორის მოდელის წონებს, KV ქეშსა და ჩექპოინტებს გადააქვთ და გამტარობას აგენტებისა და კონტროლის ამოცანების მოკლე აფეთქებებს უზიარებენ. „ამ დატვირთვებისთვის მთავარი დაგვიანებაა“, თქვა ოუსტერჰაუტმა; ერთი მილიწამიც კი ძვირადღირებულ GPU-ს უქმად ტოვებს.

როგორ მუშაობს Homa

Homa ნაკადის ნაცვლად შეტყობინებებს ეფუძნება: RPC-ის მსგავსად, შეტყობინებების სიგრძე ზუსტად განსაზღვრულია. TCP-ისგან განსხვავებით, გადატვირთვას მიმღები მართავს: პირველივე პაკეტიდან იგი იგებს, რამდენი მონაცემი მოდის, თავად განსაზღვრავს გაგზავნის რიგს და SRPT ალგორითმით მოკლე შეტყობინებებს უპირატესობას ანიჭებს.

შედეგად, მოკლე შეტყობინებების დაგვიანების 99-ე პროცენტილი Homa-ზე 92 მიკროწამია, TCP-ზე კი 1,2 მილიწამი, ანუ 13-ჯერ ნაკლები (100 გბიტ/წმ ქსელზე, 80% დატვირთვისას). გრძელ შეტყობინებებზეც Homa დაახლოებით ორჯერ სწრაფია.

სტანდარტიზაცია და დანერგვა

Homa-ზე მუშაობა 2019 წელს გამოქვეყნებული სადისერტაციო ნაშრომით დაიწყო; მისი ავტორი, ბეჰნამ მონთაზერი, ახლა Google-ში ინჟინრად მუშაობს. ოუსტერჰაუტი IETF-ის სტანდარტიზაციის დოკუმენტს ამზადებს და Homa-ს Linux-ის ბირთვში დამატებაზე მუშაობს; მარტში პროტოკოლი Red Hat Enterprise Linux-ის 8 და 9.5 ვერსიებზე გადმოიტანეს.

ოუსტერჰაუტის თქმით, Homa-ს ქსელში დამატება მარტივია: კოდი GitHub-იდან უნდა ააწყო და მოდული კლიენტებისა და სერვერების Linux-ის ბირთვებში დააყენო, გადატვირთვის გარეშე. „Homa TCP-ის გვერდით მუშაობს, ასე რომ, აპლიკაციები თანდათანობით შეიძლება TCP-იდან Homa-ზე გადაიტანო“, წერს ის. Homa-ს გაშვება დანარჩენ TCP აპლიკაციებსაც აჩქარებს; ამჟამად ოუსტერჰაუტი ერთ დიდ ფინანსურ კომპანიასთან პროტოტიპზე მუშაობს.

ეჭვები და ალტერნატივები

ყველა არ იზიარებს ამ ხედვას: ცნობილმა ქსელურმა არქიტექტორმა ივან პეპელნიაკმა 2023 წელს მკაცრი პოზიციური ნაშრომი გამოაქვეყნა, სადაც ეჭვქვეშ აყენებს TCP-ის მუშაობის შესახებ ოუსტერჰაუტის შეფასებებს და Homa-ს „პრობლემის მაძიებელ გადაწყვეტად“ მოიხსენიებს.

TCP-ის შეზღუდვებს სხვებიც გვერდს უვლიან: მონაცემთა ბაზები ამისთვის DPDK-ს იყენებენ, საცავების ქსელები NVMe over Fabrics-ზე გადავიდნენ, Google-მა კი QUIC (HTTP/3-ის საფუძველი) შექმნა. საკუთარ გადაწყვეტებს სთავაზობენ RDMA ქსელები და AWS-ის Scalable Reliable Datagram; ჯერჯერობით TCP მაინც ლიდერია.