এআই অ্যালগরিদমের পিছনে অপটিক্যাল মডিউলগুলি: ডেটা সেন্টারে বুদ্ধিমান আন্তঃসংযোগকে ত্বরান্বিত করা

এআই ডেটা সেন্টার নেটওয়ার্কগুলির অপটিক্যাল ব্যাকবোন

এআই এর বিস্ফোরক বৃদ্ধি {{0} n এনভিআইডিআইএ জিপিইউ এবং বৃহত - স্কেল মডেলগুলি দ্বারা চালিত - বিস্তৃত উচ্চতর নেটওয়ার্ক ব্যান্ডউইথথ এবং আল্ট্রা -}}}}}}}} কম লেটেন্সির জন্য চাহিদা তৈরি করেছে। আজকের এআই প্রশিক্ষণ ক্লাস্টারগুলি "স্টেরয়েডগুলিতে সুপার কম্পিউটারগুলির" মতো কাজ করে, যেখানে হাজার হাজার জিপিইউকে অবশ্যই প্রায় বাস্তব সময়ে বিশাল ডেটাসেট বিনিময় করতে হবে। উদাহরণস্বরূপ, এনভিডিয়ার সর্বশেষব্ল্যাকওয়েল- আর্কিটেকচার এনভিউইচ সমষ্টি করতে পারে1 পিবি/এসজিপিইউ এর - থেকে - জিপিইউ ব্যান্ডউইথথ.কিয়াসের মতো, এনভিডিয়ার সদ্য ঘোষিতএনভিলিঙ্ক মেরুদণ্ডফ্যাব্রিক জিপিইউ র‌্যাকগুলিতে সংযুক্ত করেজিপিইউ প্রতি 900 জিবি/এস।অনুশীলনে, জুড়ে জিপিটি -4 এর মতো একটি মডেল প্রশিক্ষণ দিন10,000 জিপিইউ"প্রচুর পরিমাণে ডেটা" চলমান জড়িত, এমনকি মাইক্রোসেকেন্ড ল্যাগগুলি অতিরিক্ত প্রশিক্ষণের সময় "মিলিয়ন" ব্যয় করতে পারে। এই বাস্তবতা অর্থ এআই ডেটা সেন্টারগুলিকে অবশ্যই কাটিয়া স্থাপন করতে হবে - প্রান্ত নেটওয়ার্কিং: টেরাবিট- শ্রেণি লিঙ্কগুলি, লসলেস ফ্যাব্রিক্স এবং অ্যাডভান্সড টপোলজগুলি এড়াতে।

এআই ওয়ার্কলোডগুলি পরিবেশন করতে, ডেটা সেন্টার নেটওয়ার্কগুলি একটিতে নির্ভর করেফ্যাট - গাছ/মেরুদণ্ড - পাতার আর্কিটেকচারউচ্চ - ব্যান্ডউইথ লিঙ্কগুলির সাথে। আধুনিক এআই কাপড় আন্তঃসংযোগকয়েকশো বা হাজার হাজার ত্বরণকারী (এক্সপিইউ)100g, 400g, 800g, এবং এর বাইরেও attra র্যাক,এনভিডিয়া এনভিলিঙ্ক/এনভিউইচপুরো - ব্যান্ডউইথ জিপিইউ - থেকে - জিপিইউ যোগাযোগ সরবরাহ করে তবে ক্লাস্টার - প্রশস্ত সমষ্টিটি এখনও ইথারনেট বা ইনফিনিব্যান্ড ব্যবহার করে। ইনফিনিব্যান্ড এনডিআর (প্রতি বন্দরে 400 জিবি/সেকেন্ড) এবং রোস/400 জি ইথারনেট এআই ক্লাস্টারিংয়ের জন্য সাধারণ; পোর্ট সুইচ এবং এনআইসি প্রতি 400g এখন সর্বব্যাপী। সংক্ষেপে, এআই নেটওয়ার্কিং কাস্টম জিপিইউ কাপড় এবং উচ্চ - স্পিড আইপি/আইবি কাপড়গুলি টাইট জিপিইউ সিঙ্ক্রোনাইজেশন সমর্থন করার জন্য মিশ্রিত করে।

উচ্চ - গতি অপটিক্যাল আন্তঃসংযোগ: 400 জি/800 জি মডিউল

এই কাপড়গুলি উপলব্ধি করার জন্য, এআই ডেটা সেন্টারগুলি - প্রান্ত অপটিক্যাল মডিউলগুলি কাটা দিয়ে সুইচ এবং সার্ভারগুলি সজ্জিত করছে।400 জি এবং 800 জি ট্রান্সসিভারএখন আদর্শ। দুটি প্রধান ফর্ম - কারণগুলি আধিপত্য বিস্তার করে:কিউএসএফপি - ডিডি(কোয়াড ছোট ফর্ম - ফ্যাক্টর প্লাগেবল ডাবল - ঘনত্ব) এবংওএসএফপি(অক্টাল এসএফপি)। উভয়ই 100 গ্রাম (800g এর জন্য) বা 4 টি লেন (400g এর জন্য) এর 8 টি লেন সমর্থন করে তবে আকার এবং শীতলকরণে পৃথক। কিউএসএফপি - ডিডি মডিউলগুলি আরও কমপ্যাক্ট (18.35 × 8.5 × 89.4 মিমি) এবং পিছনে - কিউএসএফপি 28 অবকাঠামোর সাথে সামঞ্জস্যপূর্ণ, যেখানে ওএসএফপি (≈22.58 × 107.8 মিমি) উচ্চতর শক্তি এবং তাপকে হ্যান্ডেল করতে পারে Q হেডরুমটি 800g লিঙ্ক এবং ইনফিনিব্যান্ড এনডিআর পরিবেশের জন্য ওএসএফপি আকর্ষণীয় করে তোলে oth উভয় প্রকারগুলি উচ্চ - ঘনত্বের সুইচ লিনকার্ডস (যেমন . 36 × 800g প্রতি 1U) কম- পাওয়ার ব্যবহার করে স্থাপন করা যেতে পারেএলপিও (লিনিয়ার - প্যাসিভ অপটিক্স)বা কো - প্যাকেজযুক্ত সমাধান।

এআই ক্লাস্টারগুলি খুব উচ্চ - ঘনত্ব অপটিক্স ব্যবহার করে। উদাহরণস্বরূপ,কিউএসএফপি - ডিডি বনাম ওএসএফপিট্রান্সসিভারগুলি যান্ত্রিকভাবে দৈর্ঘ্যে একই রকম তবে ওএসএফপি আরও প্রশস্ত এবং ঘন, বৃহত্তর শক্তি সমর্থন করে M ম্যানুফ্যাকচারাররা 400 জি/800 জি শিপকিউএসএফপি - ডিডি এবং ওএসএফপি প্লাগেবলজিপিইউ এবং ইথারনেটের জন্য। বিকল্প হিসাবে 800g সিএফপি 8 এবং ভবিষ্যতের কিউএসএফপি - 112 মডিউল (8 × 100 গ্রাম) উদীয়মান রয়েছে। মডিউলগুলির পিছনে রয়েছেঅপটিকাল ফাইবার এবং ক্যাবলিং: উচ্চ - গণনা এমপিও/এমটিপি প্যাচ কর্ডস ব্রিজ সংলগ্ন কিউএসএফপি/ওএসএফপি পোর্টগুলি, সমান্তরাল লিঙ্কগুলি সক্ষম করে (যেমন 400 জি ডিআর 4 এর জন্য . 8- ফাইবার এমপিও বা 800 জি এসআর 8 এর জন্য 16-ফাইবার)।

অ্যাক্টিভ অপটিকাল কেবলগুলি (এওসিএস) এই ট্রান্সসিভারগুলি স্থির - দৈর্ঘ্যের ফাইবার কেবলগুলিতে সংহত করে (ইন্ট্রা - র্যাক লিঙ্কগুলি ~ 100m অবধি র্যাকের জন্য দরকারী), যখন সরাসরি সংযুক্ত তামা (ডিএসি) কেবলগুলি খুব সংক্ষিপ্ত, ইন্ট্রা -}} র্যাক ডিস্টেন্সগুলি কভার করে (সাধারণত<3–5 m) because of signal loss constraints. For instance, ওলনের পণ্য3 এম - 100 এম.মাল্টিমোড 400 জি/800 জি অপটিক্স থেকে ~ 2.5 মিটার এবং এওসিএস সরবরাহ করে ~ 100 মিটার, এবং একক -} মোড সংস্করণগুলি কিলোমিটার স্প্যান করে, উভয় র্যাক -}- রুম ইন্টারকোনেক্টস সক্ষম করে।

অপটিকাল কেবল এবং সংযোগকারী

আধুনিক এআই ডেটা সেন্টার ব্যবহারএমপিও/এমটিপি ফাইবার সংযোগকারীসমান্তরাল অপটিক্সের জন্য ঘনত্বকে সর্বাধিক করে তোলার জন্য। উচ্চ - ঘনত্ব ট্রাঙ্ক কেবলগুলি (12 -, 24-, বা 48-ফাইবার এমপিও অ্যাসেমব্লিজ) প্যাচ প্যানেলে এলসি ডুপ্লেক্স ফাইবারগুলিতে ফ্যান আউট করে, সার্ভারগুলিতে বা মেরুদণ্ডের পাতাগুলির মধ্যে স্যুইচগুলি সংযুক্ত করে। এমপিও ফ্যানআউটস একটি 800 গ্রাম মডিউল (এসআর 8/ডিআর 8) 8 এলসি সংযোগকারীগুলির পরিবর্তে একটি একক এমপিও অ্যাডাপ্টার ব্যবহার করার অনুমতি দেয়, স্থান সংরক্ষণ করে। অ্যাক্টিভ ফাইবার কেবলগুলি (এওসি) প্রায়শই প্রতিটি প্রান্তে এই একই সংযোগকারীগুলি ব্যবহার করে তবে তাদেরকে ইন্টিগ্রেটেড 400 জি/800 জি ট্রান্সসিভারগুলির সাথে একটি কেবল হিসাবে প্যাকেজ করে।প্যাসিভ ড্যাকসবিপরীতে, সরাসরি তামার তার এবং এসএফপি/কিউএসএফপি সংযোগকারীগুলি ব্যবহার করুন।
এআই কাপড়গুলিতে সর্বাধিক উচ্চ - গতি ফাইবার ব্যবহার করে। এখানে দেখানো একটিএমপিও ফাইবার ট্রাঙ্ক কেবল(উভয় প্রান্তে 12 - ফাইবার এমপিও সংযোগকারী) মাল্টিমোড ওএম 3 এর জন্য। অনুরূপ ওএম 4/ওএস 2 এমপিও কেবলগুলি কম ক্ষতি সহ 150 মিটার (এমএমএফ) বা 10+ কিমি (এসএমএফ) পর্যন্ত দূরত্বকে সমর্থন করে। এআই ক্লাস্টারগুলি এই তারগুলি তাদের স্কেলিবিলিটি এবং লো ক্রসস্টালকের জন্য ব্যাপকভাবে ব্যবহার করে। এমটিপি/এমপিও প্যাচ প্যানেল এবং কেবল ট্রেগুলি 400 জি/800 জি লিঙ্কগুলির সাথে পাতা এবং মেরুদণ্ডের সুইচগুলি একসাথে বুনন করে একটি অ-ব্লকিং জাল তৈরি করে।

এআই নেটওয়ার্কিং টপোলজিস এবং প্রযুক্তি

এআই কাপড়ের প্রযুক্তিগত যুক্তি এই অপটিক্যাল ট্রেন্ডগুলিকে অন্তর্ভুক্ত করে। নকশা দ্বারা, আধুনিক এআই ক্লাস্টার ব্যবহারপাতা - স্পাইন (ক্লোজ) নেটওয়ার্কপূর্ব - পশ্চিম জিপিইউ ট্র্যাফিকের জন্য। প্রতিটি পাতার সুইচ প্রতিটি মেরুদণ্ডের সাথে উচ্চ - স্পিড অপটিক্সের সাথে সংযোগ স্থাপন করে, নিশ্চিত করে যে কোনও একক পাথ যানজট না হয়। অ্যারিস্টার এআই - অপ্টিমাইজড প্ল্যাটফর্মগুলি (যেমন . 7800 আর 4 চ্যাসিস, 7700 আর 4 বিতরণ করা স্যুইচগুলি) 800 জি ওএসএফপি/কিউএসএফপি- ডিডি পোর্টস এবং অ্যাডভান্সড লোড 12}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}} যেমন অ্যারিস্তা ব্যাখ্যা করেছেন, এই ফ্ল্যাট, নন - ব্লকিং ডিজাইন "এআই ক্লাস্টারগুলিতে traditional তিহ্যবাহী লোড ব্যালেন্সিংয়ের প্রয়োজনীয়তা" দূর করে।

ইথারনেট বাদে বিশেষায়িত আন্তঃসংযোগগুলি অব্যাহত রয়েছে। এনভিডিয়াএনভিলিঙ্ক/এনভিউইচসমস্ত জিপিইউকে পুরোপুরি মেশানো একটি বাক্সে রাখতে সার্ভার এবং চ্যাসিসের মধ্যে কাজ করে। অন্যদিকে,ইনফিনিব্যান্ড(এখন এনভিডিয়ার অংশ) কিছুতে - প্রিম এইচপিসি/এআই মোতায়েনগুলিতে জনপ্রিয় রয়েছে: উদাহরণস্বরূপ, এনভিডিয়ার কোয়ান্টাম - 2 ফ্যাব্রিক স্যুইচ 1U প্রতি 64 × 400 জিবি/এস আইবি পোর্ট অফার করে, 400 জি হারে আরডিএমএ ট্র্যাফিক পরিচালনা করে। অনেক ক্ষেত্রে, এআই ক্লাস্টারগুলি এগুলি মিশ্রিত করে: প্রতিটি র‌্যাকের ভিতরে এনভিলিঙ্ক সার্ভার - অভ্যন্তরীণ গতি সরবরাহ করে; র‌্যাকগুলির মধ্যে তারা 400 জি/800 জি ইথারনেট (প্রায়শই রোস) বা ফাইবারের ওপরে ইনফিনিব্যান্ড ব্যবহার করে। সিলিকন - ফোটোনিকস এবং কো - প্যাকেজড অপটিক্স (যেমন এনভিডিয়ার আসন্ন স্পেকট্রাম-এক্স সুইচগুলির মতো) শক্তি এবং বিলম্বিততায় আরও লাভের প্রতিশ্রুতি দেয়, তবে আজ এআই লিঙ্কগুলির বেশিরভাগ অংশ এখনও প্লাগেবল ট্রান্সসাইভার এবং এওসি ব্যবহার করে।

কী টেকওয়েজ:আধুনিক এআই অবকাঠামো মূলত ডেটা - আবদ্ধ, গণনা নয় - আবদ্ধ। মডেল - প্রশিক্ষণের লক্ষ্যগুলি মানে নেটওয়ার্ককে অনুকূল করে তোলা। উচ্চ - গতি অপটিক্যাল মডিউলগুলি (400G/800G QSFP - ডিডি বা ওএসএফপি) এবং উচ্চ - ঘনত্ব ফাইবার ক্যাবলিং এই অপ্টিমাইজেশনের মূল অংশে রয়েছে। শিল্পের ডেটা বুমকে নিশ্চিত করে: 400g/800g এর পোর্টের গতি অভূতপূর্ব হারে স্কেলিং করছে, এআই কাজের চাপ দ্বারা চালিত

উপসংহার এবং পরবর্তী পদক্ষেপ
 

সংক্ষেপে, এআই বিপ্লব স্থাপন করেছেঅপটিকাল ডেটা আন্তঃসংযোগঅবকাঠামো পরিকল্পনার কেন্দ্রবিন্দুতে। উচ্চ - এন্ড জিপিইউ এবং এআই র‌্যাকগুলির জন্য আনুপাতিক নেটওয়ার্ক ক্ষমতা প্রয়োজন, এবং কেবলমাত্র ফাইবার - ভিত্তিক সমাধানগুলি (400g/800g QSFP - DD বা ওএসএফপি, এওসি/ড্যাক ক্যাবলিং, এমপিও ট্রাঙ্কস) চ্যালেঞ্জটি পূরণ করতে পারে। শিল্পের ডেটা এই অপরিহার্যটিকে আন্ডারস্কোর করে: আইডিসি এবং লাইটকাউন্টিং প্রকল্পটি এআইয়ের জন্য উচ্চ - স্পিড পোর্ট শিপমেন্টের দ্বিগুণ বা ট্রিপলিং, এবং হাইপারস্কেলাররা 800 জি+ অপটিক্সে প্রচুর ব্যয় করছে।

শীর্ষস্থানীয় অপটিক্স সরবরাহকারীদের থেকে সমাধানগুলি অন্বেষণ করুন (যেমন ওলোন ট্রান্সসিভার এবং তারগুলি) এবং আজ মাল্টি - টেরাবিট পারফরম্যান্সের জন্য আপনার ডেটা সেন্টারটি ডিজাইন করুন। আরও তথ্য বা কাস্টম অপটিক্সের জন্য,ওলনের সাথে যোগাযোগ করুনকীভাবে তাদের এআই - প্রস্তুত কিউএসএফপি- ডিডি/ওএসএফপি মডিউলগুলি এবং উচ্চ - ঘনত্বের ফাইবার অ্যাসেমব্লিগুলি আপনার নেটওয়ার্কের বিবর্তিত চাহিদা পূরণ করতে পারে তা নিয়ে আলোচনা করতে।