استریم در محصول AI یعنی کاربر بداند کجای کار است، نه اینکه توکن بریزد
خیلی از محصول‌های AI اگر تیم وقت بیشتری روی تجربه انتظار بگذارد و کمتر روی نمایش، حس بهتری می‌دهند. کیفیت مدل موضوع همیشگی گفتگو است. در عمل محصول ناشیانه می‌ماند چون کاربر حس درستی از پیشرفت، اطمینان، و اینکه سیستم مشغول چه کاری است ندارد.
استریم مهم است چون تأخیر را به تجربه‌ای تبدیل می‌کند که می‌توانی شکلش بدهی. استریم خوب می‌تواند قصد را نشان دهد، عدم‌قطعیت را کم کند، منبع را زودتر بیاورد، و محصول را پاسخ‌گو حس کند حتی وقتی کار سنگین پشت صحنه است. استریم بد فقط توکن را روی صفحه می‌چکاند و اسمش را UX می‌گذارد.
انتظار یک حالت محصول است
کاربر پای صفحه است. اگر چند ثانیه هیچ چیز قابل تفسیری نبیند، یا فکر می‌کند خراب شده یا دوباره کلیک می‌کند. هر دو گران‌اند. حالت‌های پایدار UI را قبل از تصمیم درباره انیمیشن تایپ مشخص کن.
حداقل این‌ها را از هم جدا کن: هنوز شروع نشده، در حال فهمیدن سؤال، در حال آوردن منبع، در حال نوشتن جواب، جواب قابل استفاده است، جواب جزئی یا تنزل‌یافته است، شکست خورده و می‌شود دوباره زد. این‌ها جمله بازاریابی نیستند. وضعیت‌اند. اگر فقط یک اسپینر و بعد یک دیوار متن داری، استریم را پیاده نکرده‌ای. تأخیر را قایم کرده‌ای.
نسخه‌ای که دوست دارم متعصب است. تکه‌های معنادار را استریم کن، نه هر ریزفکر را. با زبان بارگذاری روشن جفت کن. تصمیم محصول بگیر که جواب از کی قابل اقدام است و تا کی هنوز در راه است. هدف نمایش نیست. هدف این است که کاربر جهت را گم نکند.
استریم با شفافیت یکی نیست
اشتباه رایج این است که استریم را با شفافیت عوض کنی. ریختن خروجی جزئی ناپایدار روی رابط می‌تواند اعتماد را بدتر کند. اگر متن احتمالاً سنگین بازنویسی می‌شود، اغلب بهتر است پیشرفت و نقطه عطف را استریم کنی نه خود متن خام را.
مثلاً در جستجوی سند، اول بگو کدام منبع در حال بررسی است و وقتی قطعه‌ای واقعاً به جواب چسبید نشانش بده. جمله نیمه‌کاره‌ای که دو ثانیه بعد خلافش می‌آید کاربر را وادار می‌کند یا صبر کند یا بر اساس دروغ موقت عمل کند. برای کار برگشت‌ناپذیر، دکمه عمل را تا وقتی خروجی اعتبار شده و وضعیت «نهایی» است غیرفعال نگه دار. استریم متن دکمه را زودتر روشن نمی‌کند.
اگر زنجیره ابزار طولانی است، نام ابزار و نتیجه کلاس را نشان بده نه آرگومان خام. «در حال خواندن سند سیاست» مفید است. JSON داخلی ابزار نه. جزئیات دیباگ مال توسعه‌دهنده است، در حالتی جدا، نه مال مشتری.
شکل مهندسی دور استریم
از دید فول‌استک ارزش وقتی واقعی است که شکل اپ عوض شود. مسیر تعاملی مهلت کوتاه و وضعیت میانی راست‌گو می‌خواهد. کاری که بیشتر از تحمل صفحه طول می‌کشد باید از کلیک خارج شود و در صف با شناسه قابل پیگیری بنشیند. استریم بهانه بی‌نهایت کردن اتصال HTTP نیست.
قطع اتصال را طراحی کن. کاربر تب را عوض می‌کند، پروکسی اتصال را می‌بندد، یا مدل وسط توکن سکوت می‌کند. کلاینت باید بتواند یا از آخرین وضعیت پایدار ادامه دهد یا صادقانه بگوید جواب ناقص است. نیمه‌متن بدون برچسب «ناتمام» بدتر از خطای روشن است.
کش و کار پس‌زمینه اینجا به استریم کمک می‌کنند نه به جادو. اگر بخش پایدار جواب را می‌شود از قبل داشت، زود نشان بده و فقط بخش فازی را منتظر مدل بگذار. این همان جراحی است: قابلیت گران را روی تکه‌ای بریز که واقعاً به آن نیاز دارد.
بودجه را فراموش نکن. استریم طولانی که کسی نگاه نمی‌کند هنوز توکن می‌سوزاند. سقف زمان دیوار و سقف هزینه را در رانر داشته باش. وقتی سقف خورد، جریان را با وضعیت تنزل یا خطا ببند، نه با قطع بی‌صدا.
اشتباه‌هایی که هنوز می‌بینم
فرض اینکه بهبود مدل یا SDK خودبه‌خود معماری دور آن را بهتر می‌کند. نمی‌کند. اگر گردش کار مبهم است یا کسی نمی‌داند صدای گران کجا است، استریم فقط راه قشنگ‌تری برای ادامه به‌هم‌ریختگی می‌دهد.
دست‌کم گرفتن تکه‌های کسل. حالت خطا، زمان پاسخ، retry، لاگ، و دست‌به‌دست به کد معمولی اپ همان قدر اعتماد می‌سازند که خود قابلیت. استریمی که خطا را به شکل جمله نصفه رها می‌کند، کاربر را بدون اقدام بعدی می‌گذارد.
و یکدست کردن همه سطح‌ها. چت بازاریابی، دستیار داخلی، و کار پس‌زمینه نباید یک سیاست استریم داشته باشند. جایی که جواب باید دقیق و کوتاه باشد، نشان دادن توکن به توکن فقط نویز است. یک نتیجه کامل بعد از وضعیت «در حال بررسی» صادقانه‌تر است.
این هفته روی یک مسیر
یک گردش کار را انتخاب کن که انتظارش امروز ناشیانه است. مرز کار را تنگ کن. وضعیت‌های UI را بنویس قبل از اینکه کتابخانه استریم را عوض کنی. مشخص کن کدام تکه زود قابل نشان دادن است و کدام را تا اعتبار نهایی نگه می‌داری.
دور تأخیر، شکست، و هزینه همان مسیر دید بگذار. اگر استریم را اضافه کردی و کاربر همچنان دوباره کلیک می‌کند، پیشرفت را نرسانده‌ای. فقط انیمیشن اضافه کرده‌ای.
وقتی تجربه استریم درست طراحی شود، تأخیر دیگر فقط تأخیر خالص حس نمی‌شود. این یکی از اهرم‌های بالای محصول در AI است، به شرطی که در خدمت جهت کاربر باشد نه در خدمت دمو.
پرسش‌های کوتاه
**همیشه توکن‌به‌توکن نشان بدهم؟** نه. اگر متن ناپایدار است، نقطه عطف و منبع را نشان بده. متن را وقتی نشان بده که کاربر بتواند به آن تکیه کند یا واضح ببیند هنوز پیش‌نویس است.
**اگر اتصال قطع شد؟** وضعیت ناقص را برچسب بزن و راه ادامه یا تلاش دوباره بده. نیمه‌جواب بی‌برچسب نگذار.
**استریم جای صف را می‌گیرد؟** برای کار کوتاه تعاملی کمک می‌کند. برای کار بلند، صف با وضعیت قابل پیگیری از اتصال باز طولانی سالم‌تر است.