هوش مصنوعیهای تولیدکننده متن و محتوا، مانند ChatGPT، Claude و Gemini، به ابزارهایی قدرتمند و روزمره تبدیل شدهاند. اما یک مشکل بزرگ و رایج این مدلها، پدیدهای به نام هالوسینیشن (Hallucination) است؛ یعنی زمانی که مدل با اطمینان کامل، اطلاعات نادرست، ساختگی یا متناقض تولید میکند. این اتفاق میتواند از یک تاریخ تولد اشتباه تا اختراع یک منبع علمی کاملاً خیالی را شامل شود. سوال اصلی اینجاست: چطور میتوانیم این ابزارهای شگفتانگیز را “مجبور” کنیم تا تا حد امکان جواب غلط ندهند؟ پاسخ ساده نیست، اما با درک دلیل خطا و به کارگیری تکنیکهای کاربردی، میتوانیم دقت خروجی را به شکل چشمگیری بهبود بخشیم.
فصل ۱: ریشهیابی مشکل؛ چرا هوش مصنوعی هالوسینه میکند؟
برای حل مشکل، اول باید آن را درست بشناسیم. هالوسینیشن عمدتاً به این دلایل رخ میدهد:
1. آموزش بر دادههای ناقص یا متناقض: مدلهای بزرگ زبانی (LLMs) بر روی حجم عظیمی از متون اینترنتی آموزش میبینند. این دادهها مملو از اطلاعات نادرست، اغراقآمیز یا تاریخ گذشته هستند.
2. هدف مدل، “تولید متن محتمل” است، نه “کشف حقیقت”: هسته کاری این مدلها پیشبینی کلمه بعدی بر اساس الگوهای آموخته شده است. آنها “حقیقت عینی” را به معنای فلسفی آن درک نمیکنند، بلکه به دنبال تولید متنی هستند که از نظر آماری و زبانی، شبیه به دادههای آموزشیشان باشد.
3. درک ناقص پرسش (Prompt مبهم): اگر سوال شما کلی، مبهم یا دارای اصطلاحات چندپهلو باشد، مدل مسیر را گم میکند و به احتمال زیاد پاسخ نادرست میسازد.
4. کمبود دانش به روز: دانش بیشتر مدلهای عمومی تا یک تاریخ قطع (مثلاً ۲۰۲۳) به روز است و از وقایع یا اطلاعات پس از آن تاریخ بیخبرند.
فصل ۲: تکنیکهای عملی پرمپت انجینیرینگ (Prompt Engineering) برای کاهش خطا
این بخش، قلب راهکار کاربردی است. نحوه سوال پرسیدن شما، مستقیم بر کیفیت پاسخ اثر میگذارد.
۱. نقشپذیری و تعریف چارچوب (Role-Playing & Framing):
به مدل یک نقش تخصصی بدهید و دقیقاً مشخص کنید چه انتظاری دارید.
· پرمپت ضعیف: «در مورد اثرات گرمایش جهانی بگو.»
· پرمپت قوی: «تو یک climatologist (دانشمند اقلیمشناس) با ۲۰ سال سابقه هستی که برای یک مجله علمی معتبر مینویسی. لطفا با استناد به گزارشهای قطعی IPCC، سه اثر اصلی گرمایش جهانی بر اکوسیستمهای قطبی را فهرست کن و برای هر مورد یک منبع معتبر نام ببر. در صورت عدم اطمینان از هر نکته، صراحتاً ذکر کن که “این بخش نیاز به بررسی بیشتر دارد”.»