بریک تھرو انٹیگریشن: ٹیتھر معیاری صارفین کے آلات پر گوگل کی جانب سے پاور ہاؤس AI ٹیکنالوجی کو فعال کرتا ہے۔

ٹیبل آف کنٹینٹ ٹیتھر کے اے آئی ریسرچ گروپ نے ٹربو کوانٹ کا ایک اوپن سورس پروڈکشن ورژن جاری کیا ہے، جو کہ اصل میں گوگل ریسرچ کے ذریعہ تیار کردہ میموری کمپریشن الگورتھم ہے۔ ریلیز QVAC SDK 0.12.0 کا حصہ ہے اور اس کا ہدف لیپ ٹاپ، فون، ایج ڈیوائسز، اور وکندریقرت نیٹ ورکس ہیں۔ یہ مقامی AI ماڈلز کو کلاؤڈ انفراسٹرکچر پر انحصار کیے بغیر طویل سیشنز کو سنبھالنے کی اجازت دیتا ہے۔ یہ ایک عملی تبدیلی کی نشاندہی کرتا ہے کہ کس طرح آن ڈیوائس AI میموری سے متعلق کاموں کا انتظام کرتا ہے۔ صارفین کے ہارڈ ویئر پر قابل AI ماڈلز چلانے میں میموری طویل عرصے سے رکاوٹ رہی ہے۔ جب ایک AI اسسٹنٹ ایک طویل دستاویز یا گفتگو پر کارروائی کرتا ہے، تو یہ اس سیاق و سباق کو اس میں محفوظ کرتا ہے جسے KV کیشے کہتے ہیں۔ تقریباً 262,000 ٹوکنز پر، 4B ماڈل کے لیے KV کیش اکیلے تقریباً 8 GB میموری استعمال کر سکتا ہے۔ چار سمورتی سیشن اس اعداد و شمار کو 32 جی بی تک بڑھا سکتے ہیں اس سے پہلے کہ ماڈل کا حساب کتاب کیا جائے۔ ٹربو کوانٹ ایک غیر کمپریسڈ ماڈل کے قریب آؤٹ پٹ کوالٹی کو برقرار رکھتے ہوئے KV کیشے کو پانچ گنا تک کمپریس کرکے اس کا ازالہ کرتا ہے۔ ایک صارف اب لیپ ٹاپ پر مبنی اسسٹنٹ سے کہہ سکتا ہے کہ وہ سو صفحات پر مشتمل قانونی دستاویز کو ریموٹ سرور پر اپ لوڈ کیے بغیر تجزیہ کرے۔ Tether AI QVAC SDK کو اپ گریڈ کرتا ہے، ٹربو کوانٹ کو روزمرہ کے آلات پر لاتا ہے، مقامی AI ڈیٹا سینٹر کے سائز کی میموری دیتا ہے مزید جانیں: https://t.co/mF2uwDB8rv — Tether (@tether) 1 جون 2026 طلباء، ڈویلپرز، صحافی، اور محققین جو پہلے سے ہی زیادہ AI سیشن کے مالک ہیں ان کے سیشن سے زیادہ فائدہ اٹھا سکتے ہیں۔ ریلیز کے پیچھے وسیع تر استدلال پر بات کرتے ہوئے، ٹیتھر کے سی ای او پاولو آرڈوینو نے تحقیق اور عملی سافٹ ویئر کے درمیان فرق کی طرف اشارہ کیا۔ "گوگل کی تحقیق سے پتہ چلتا ہے کہ AI میموری کو زیادہ تر لوگوں کے خیال سے کہیں زیادہ مؤثر طریقے سے کمپریس کیا جا سکتا ہے،" انہوں نے کہا۔ "ہمارا کام پروڈکشن سافٹ ویئر میں وہ پیش رفت لاتا ہے جسے ڈویلپرز، اسٹارٹ اپس، اور صارفین درحقیقت بنا سکتے ہیں۔" پروڈکشن ریلیز میں ایک مکمل کوانٹائزیشن پائپ لائن، فریم ورک اڈاپٹر، ڈویلپر دستاویزات، اور کام کے بوجھ سے منسلک پروفائلز شامل ہیں۔ یہ اجزاء ہائپر اسکیل ڈیٹا سینٹرز کے باہر حقیقی ماحول کے لیے ڈیزائن کیے گئے ہیں، جس میں محدود میموری، مخلوط ہارڈ ویئر، اور تاخیر سے متعلق حساس تعیناتیوں کا احاطہ کیا گیا ہے۔ QVAC SDK 0.12.0 کے حصے کے طور پر TurboQuant بحری جہاز، جو کہ QVAC اسٹیک کا ایک بنیادی جزو، فیبرک میں براہ راست ضم ہوتا ہے۔ فیبرک ایک llama.cpp کانٹے کے طور پر شروع ہوا اور اس کے بعد سے اس نے متعدد تحقیقی پیشرفت کو شامل کیا ہے۔ SDK ڈویلپرز کو مقامی AI ایپلی کیشنز بنانے کے لیے ٹولز، لائبریریوں اور رن ٹائم اجزاء کا ایک متحد سیٹ فراہم کرتا ہے۔ اسٹارٹ اپس اور آزاد ڈویلپرز کے لیے، یہ اس مفروضے کو دور کرتا ہے کہ بڑی AI مصنوعات کو مہنگے GPU کلسٹرز کی ضرورت ہوتی ہے۔ ٹیمیں اب لمبے سیاق و سباق کی ونڈوز، بڑے فائل ورک بوجھ، اور صارفین اور ایج ہارڈ ویئر میں لچکدار تعیناتی کے لیے ڈیزائن کر سکتی ہیں۔ یہ صرف کلاؤڈ آرکیٹیکچر کے بغیر AI پروڈکٹس بنانے کے لیے عملی راستے کھولتا ہے۔ ڈیٹا پرائیویسی اور کلاؤڈ انحصار کے بارے میں خدشات کو دور کرتے ہوئے، Ardoino نے مقامی آلات پر AI کاموں کو رکھنے کا معاملہ بنایا۔ انہوں نے کہا، "لوگوں کو ایک AI اسسٹنٹ سے طویل دستاویز پڑھنے یا نجی معلومات کے ذریعے کام کرنے کے لیے کہنے کے قابل ہونا چاہیے، بغیر کسی ریموٹ ڈیٹا سینٹر کے ذریعے ہر کام کو زبردستی کیے جانے،" انہوں نے کہا۔ TurboQuant، اس لحاظ سے، مقامی AI کو مزید آپریشنل کمرہ فراہم کرتا ہے۔ AI پر ٹیتھر کی حکمت عملی کے مراکز جو صارفین کے قریب، ذاتی آلات اور وکندریقرت والے نیٹ ورکس پر چلتے ہیں۔ کمپنی بڑے پیمانے پر کمپیوٹ انفراسٹرکچر کے ساتھ ساتھ AI کی ترقی کے اگلے مرحلے میں سافٹ ویئر کی کارکردگی اور پورٹیبلٹی کو وضاحتی عوامل کے طور پر دیکھتی ہے۔