تقریباً یک دهه است که تمام دنیای هوش مصنوعی بر روی یک ستون اصلی بنا شده: معماری «ترنسفورمر». از ChatGPT و Gemini گرفته تا تمام ابزارهای هوش مصنوعی که روزانه استفاده میکنیم، همگی مدیون مقالهای انقلابی از گوگل در سال ۲۰۱۷ با عنوان «توجه تمام آن چیزی است که نیاز دارید» هستند. اما این ستون قدرتمند، حالا پس از ۹ سال، ترکهای جدی برداشته و به نظر میرسد به پایان عمر خود نزدیک میشود. موج جدیدی از استارتاپهای جسور در حال ساختن جایگزینی برای این فناوری هستند؛ انقلابی که میتواند چهره 🛒 خرید اکانت هوش مصنوعی را برای همیشه تغییر دهد.
چرا ترنسفورمرها به بنبست رسیدهاند؟
جاستین دانگل، مدیرعامل استارتاپ هوش مصنوعی Subquadratic میگوید: «کل صنعت AI بر پایه ترنسفورمرها ساخته شده است. آنها یکی از مهمترین نوآوریهای تاریخ علوم کامپیوتر هستند.» اما این نوآوری شگفتانگیز، دو پاشنه آشیل مرگبار دارد که دیگر نمیتوان آنها را نادیده گرفت.
۱. عطش سیریناپذیر برای محاسبات و انرژی
نقطه قوت اصلی ترنسفورمرها مکانیزمی به نام «توجه متراکم» (Dense Attention) است. به زبان ساده، برای فهمیدن معنای یک متن، این مدل هر کلمه را با تکتک کلمات دیگر مقایسه میکند. این روش دقت فوقالعادهای دارد اما یک مشکل بزرگ ایجاد میکند: با افزایش طول متن، حجم محاسبات به صورت تصاعدی بالا میرود.
برای مثال، پردازش یک سند ۱۰ هزار کلمهای ممکن است به ۵۰ میلیون عملیات ضرب نیاز داشته باشد! این همان دلیلی است که مدلهای زبانی بزرگ (LLM) اینقدر پرمصرف و گران هستند. طبق گفته گرگ براکمن، رئیس OpenAI، این شرکت در سال جاری میلادی (۲۰۲۶) حدود ۵۰ میلیارد دلار صرف هزینههای محاسباتی خواهد کرد. آژانس بینالمللی انرژی نیز پیشبینی میکند که مصرف برق دیتاسنترها تا سال ۲۰۳۰ دو برابر خواهد شد.
نکته طلایی: مشکل اصلی ترنسفورمرها که به آن «پیچیدگی محاسباتی درجه دوم» یا (Quadratic Complexity) میگویند، بزرگترین مانع برای ساخت مدلهای هوشمندتر با حافظه طولانیتر است. این یعنی اگر طول ورودی را ۲ برابر کنید، محاسبات مورد نیاز ۴ برابر میشود!
۲. محدودیت در حافظه و استدلال (پنجره زمینه)
به دلیل همین پردازش کلمه به کلمه، ترنسفورمرها در به خاطر سپردن حجم زیادی از اطلاعات به صورت همزمان (که به آن پنجره زمینه یا Context Window میگویند) ضعیف عمل میکنند. در حالی که برای انجام وظایف پیچیدهتر، مدلهای آینده باید بتوانند یک کتابخانه کامل، کل کد یک پروژه نرمافزاری یا خروجی مدلهای دیگر را به یکباره تحلیل کنند. بسیاری از پیشرفتهای اخیر در واقع راهحلهای موقتی برای دور زدن این نقص بنیادی هستند، نه یک بهبود واقعی.
LLM+ : نسل جدیدی که آینده را میسازد
درست در همین نقطه است که موجی از استارتاپهای نوآور وارد میدان شدهاند. این شرکتها به جای بهینهسازی ترنسفورمرهای قدیمی، در حال ساخت معماریهای کاملاً جدیدی از پایه هستند که MIT Technology Review از آنها با عنوان «LLMs+» یاد میکند. این استارتاپها شاید ریسک بالایی داشته باشند، اما چیزی برای از دست دادن ندارند و میتوانند غولهایی مثل گوگل و OpenAI را که میلیاردها دلار روی زیرساخت فعلی سرمایهگذاری کردهاند، به چالش بکشند.
گرچه آینده هوش مصنوعی بسیار هیجانانگیز به نظر میرسد، اما ابزارهای فعلی نیز هنوز شگفتی میآفرینند. شما میتوانید با 🛒 خرید اکانت ChatGPT از پیجم شاپ، همین امروز به قدرتمندترین مدلهای زبانی دسترسی پیدا کرده و پروژههای خود را متحول کنید.
این انقلاب برای ما چه معنایی دارد؟
کنار گذاشتن ترنسفورمرها به معنای ورود به عصری جدید است:
- هوش مصنوعی بهینهتر و ارزانتر: مدلهای جدید به انرژی و قدرت محاسباتی بسیار کمتری نیاز خواهند داشت.
- حافظه و قدرت استدلال بینهایت: توانایی پردازش حجم عظیمی از داده به صورت آنی، درهای جدیدی را به روی کاربردهای پیچیده باز میکند.
- دموکراتیزه شدن AI: با کاهش هزینهها، شرکتهای کوچکتر و حتی افراد عادی نیز میتوانند مدلهای قدرتمند خود را بسازند و اجرا کنند.
دنیای هوش مصنوعی در آستانه یک دگرگونی بزرگ قرار دارد. شاید چند سال آینده، نام «ترنسفورمر» فقط در کتابهای تاریخ تکنولوژی پیدا شود و ما با معماریهای جدید و کارآمدتری کار کنیم که امروز توسط استارتاپهای گمنام اما خلاق در حال توسعه هستند.