آیا ChatGPT واقعاً فکر می‌کند؟ پشت پرده پاسخ‌های هوش مصنوعی چه می‌گذرد؟
وقتی با ChatGPT صحبت می‌کنیم، گاهی احساس می‌کنیم طرف مقابل واقعاً در حال فکر کردن است. سؤال می‌پرسیم، جواب می‌گیریم، مسئله ریاضی مطرح می‌کنیم، درباره یک موضوع پیچیده بحث می‌کنیم یا حتی از هوش مصنوعی می‌خواهیم برایمان برنامه‌نویسی کند.
اما یک سؤال مهم پشت همه این اتفاق‌ها وجود دارد:
آیا ChatGPT واقعاً فکر می‌کند یا فقط کلمات بعدی را پیش‌بینی می‌کند؟
جواب کوتاه این است که ماجرا از چیزی که عبارت «پیش‌بینی کلمه بعدی» نشان می‌دهد بسیار پیچیده‌تر است. مدل‌های زبانی از الگوهای موجود در حجم بسیار زیادی از داده‌ها یاد می‌گیرند و هنگام تولید پاسخ، توکن‌های بعدی را بر اساس زمینه موجود پیش‌بینی می‌کنند. در مدل‌های reasoning جدیدتر، فرایندهای استدلالی بیشتری نیز برای حل مسائل چندمرحله‌ای به کار گرفته می‌شود.
پس بهتر است قدم‌به‌قدم ببینیم پشت یک پاسخ ساده ChatGPT چه اتفاقی می‌افتد.
ChatGPT قبل از اینکه جواب بدهد چه چیزی می‌بیند؟
وقتی شما یک سؤال برای ChatGPT می‌فرستید، سیستم آن را مثل یک انسان که جمله را روی کاغذ می‌خواند پردازش نمی‌کند.
متن ابتدا به واحدهای کوچک‌تری به نام Token یا توکن تقسیم می‌شود.
توکن می‌تواند یک کلمه کامل، بخشی از یک کلمه، علامت نگارشی یا حتی بخش دیگری از متن باشد. بنابراین «کلمه» و «توکن» دقیقاً یک چیز نیستند.
برای مثال، جمله:
«امروز هوا خیلی خوب است.»
برای مدل به مجموعه‌ای از واحدهای قابل پردازش تبدیل می‌شود.
بعد مدل به ارتباط میان این واحدها و متن اطرافشان توجه می‌کند.
در نتیجه، ChatGPT سؤال شما را به شکل یک مجموعه عدد و الگوی ریاضی پردازش می‌کند؛ نه مانند مغز انسان که یک جمله را با تجربه‌های شخصی و حواس مختلف خود ارتباط می‌دهد.
پس داستان «پیش‌بینی کلمه بعدی» چیست؟
اینجا به یکی از مهم‌ترین بخش‌های ماجرا می‌رسیم.
در مرحله آموزش، مدل‌های زبانی با حجم عظیمی از اطلاعات کار می‌کنند و یاد می‌گیرند که چه الگوهایی در زبان و سایر داده‌ها وجود دارد.
به زبان ساده، مدل بارها با موقعیت‌هایی روبه‌رو می‌شود که باید ادامه احتمالی یک متن را پیش‌بینی کند.
مثلاً:
«پایتخت ایران…»
مدل باید احتمال ادامه‌های مختلف را بررسی کند و یاد بگیرد که «تهران» در این زمینه احتمال بسیار بالایی دارد.
اما مدل فقط یک فهرست ساده از جمله‌های آماده در اختیار ندارد.
در طول آموزش، پارامترهای مدل تغییر می‌کنند تا روابط و الگوهای موجود در داده‌ها را بهتر بازنمایی کنند. OpenAI توضیح می‌دهد که مدل‌ها به جای ذخیره نسخه‌ای از جملات آموزشی، وزن‌ها و پارامترهای خود را برای بازتاب الگوهای یادگرفته‌شده تنظیم می‌کنند.
بنابراین وقتی می‌گوییم ChatGPT «کلمه بعدی را پیش‌بینی می‌کند»، این عبارت درست است، اما تصویر کاملی از کاری که مدل انجام می‌دهد ارائه نمی‌دهد.
آیا ChatGPT فقط یک کلمه را حدس می‌زند؟
نه، حداقل نه به آن معنای ساده‌ای که ممکن است تصور کنیم.
مدل پاسخ را به صورت توالی‌ای از توکن‌ها تولید می‌کند. انتخاب هر توکن به متن و زمینه‌ای که تا آن لحظه در اختیار مدل قرار گرفته وابسته است.
فرض کنید از ChatGPT بپرسیم:
«چرا آسمان آبی است؟»
مدل فقط نمی‌گوید:
«احتمالاً بعد از کلمه چرا، کلمه فلان می‌آید.»
بلکه باید ارتباط میان سؤال، مفاهیم علمی مرتبط، ساختار زبان و ادامه احتمالی پاسخ را در نظر بگیرد.
سپس پاسخ را مرحله‌به‌مرحله تولید می‌کند.
به همین دلیل یک پاسخ می‌تواند چند پاراگراف طول داشته باشد و در هر مرحله، خروجی قبلی روی ادامه پاسخ تأثیر بگذارد.
OpenAI نیز توضیح می‌دهد که مدل هنگام تولید پاسخ از وزن‌های یادگرفته‌شده برای پیش‌بینی و ایجاد محتوای جدید استفاده می‌کند.
اما اگر فقط پیش‌بینی می‌کند، چطور مسئله حل می‌کند؟
این دقیقاً همان جایی است که بحث جالب می‌شود.
اگر ChatGPT فقط یک پیش‌بینی‌کننده ساده باشد، چطور می‌تواند یک مسئله ریاضی را حل کند؟ چطور می‌تواند یک برنامه کامپیوتری بنویسد؟ چطور می‌تواند چند شرط را هم‌زمان بررسی کند؟
پاسخ به ساختار و توانایی مدل‌های جدید برمی‌گردد.
مدل‌های reasoning می‌توانند قبل از تولید پاسخ نهایی، از توکن‌های استدلالی استفاده کنند. این فرایند به مدل کمک می‌کند مسئله را به بخش‌های مختلف تقسیم کند، گزینه‌های مختلف را بررسی کند و برای مسائل چندمرحله‌ای مسیر مناسب‌تری پیدا کند.
بنابراین عبارت «فقط کلمه بعدی را حدس می‌زند» برای توضیح مدل‌های امروزی بیش از حد ساده است.
پیش‌بینی توکن همچنان بخش بنیادی تولید زبان است، اما فرایند رسیدن به پاسخ می‌تواند شامل پردازش و استدلال چندمرحله‌ای باشد.
آیا این همان «فکر کردن» انسان است؟
اینجا باید کمی محتاط باشیم.
وقتی می‌گوییم ChatGPT «فکر می‌کند»، نباید فوراً تصور کنیم که این سیستم مانند یک انسان دارای ذهن، احساس، خاطرات شخصی، تجربه زندگی و آگاهی است.
انسان وقتی به یک مسئله فکر می‌کند، تجربه‌های گذشته، احساسات، حواس، بدن، محیط و اهداف شخصی خود را نیز در تصمیم‌گیری دخالت می‌دهد.
یک مدل هوش مصنوعی چنین تجربه انسانی‌ای ندارد.
پس استفاده از کلمه «فکر کردن» برای مدل‌های هوش مصنوعی بیشتر به فرایند محاسباتی و استدلالی مدل اشاره می‌کند، نه لزوماً تجربه ذهنی مشابه انسان.
به همین دلیل بهتر است بین این دو مفهوم تفاوت بگذاریم:
استدلال محاسباتی ≠ تجربه ذهنی انسان
پس چرا ChatGPT این‌قدر شبیه انسان حرف می‌زند؟
یکی از دلایل اصلی، داده‌هایی است که مدل در فرایند آموزش با آن‌ها مواجه می‌شود.
مدل‌های پایه OpenAI با اطلاعاتی از منابع مختلف توسعه پیدا می‌کنند و در آموزش خود الگوهای موجود در متن، تصویر، صدا و ویدئو را یاد می‌گیرند. سپس فرایندهای پساآموزش به بهبود رفتار و عملکرد مدل کمک می‌کنند.
از آنجا که بخش بزرگی از داده‌های زبانی توسط انسان‌ها تولید شده است، مدل می‌تواند الگوهای بسیار پیچیده زبان انسانی را یاد بگیرد.
نتیجه چیست؟
وقتی با آن صحبت می‌کنیم، پاسخ می‌تواند کاملاً طبیعی به نظر برسد.
اما طبیعی بودن پاسخ به معنی داشتن ذهن انسانی نیست.
پارامترهای ChatGPT چه نقشی دارند؟
یکی از مفاهیم مهم در مدل‌های هوش مصنوعی، پارامتر یا Weight است.
مدل را می‌توان به یک شبکه بسیار بزرگ از روابط عددی تصور کرد.
در زمان آموزش، این اعداد بارها تغییر می‌کنند تا مدل بتواند الگوهای موجود در داده‌ها را بهتر یاد بگیرد.
در نهایت، این پارامترها به مدل کمک می‌کنند هنگام دریافت یک ورودی جدید، خروجی مناسبی تولید کند.
نکته مهم این است که مدل قرار نیست تمام کتاب‌هایی را که در آموزش دیده، مثل یک هارددیسک داخل خودش نگه دارد.
بلکه اطلاعات آموزشی باعث تغییر پارامترهای مدل می‌شوند و مدل از این الگوهای یادگرفته‌شده برای تولید خروجی جدید استفاده می‌کند.
آیا ChatGPT جواب را از یک جایی کپی می‌کند؟
در حالت عادی، نباید تصور کنیم ChatGPT یک موتور جست‌وجوی ساده است که برای هر سؤال یک جمله آماده پیدا می‌کند و همان را تحویل می‌دهد.
مدل با استفاده از الگوهای یادگرفته‌شده، خروجی جدید تولید می‌کند.
البته این موضوع به معنای آن نیست که هیچ‌گاه خروجی مدل نمی‌تواند شبیه متن‌های موجود باشد. مدل‌های زبانی با داده‌های واقعی آموزش می‌بینند و احتمال شباهت در برخی موارد وجود دارد.
اما سازوکار اصلی تولید پاسخ، جست‌وجوی یک جمله آماده در یک بانک اطلاعاتی نیست.
پس چرا ChatGPT گاهی اشتباه می‌کند؟
اگر ChatGPT واقعاً مثل یک موتور جست‌وجوی حقیقت عمل نمی‌کند، دلیل برخی اشتباهاتش روشن‌تر می‌شود.
مدل می‌تواند پاسخی تولید کند که از نظر زبانی بسیار طبیعی و قانع‌کننده باشد، اما از نظر factual یا واقعیت خارجی اشتباه باشد.
OpenAI این پدیده را Hallucination یا توهم هوش مصنوعی می‌نامد.
برای مثال، مدل ممکن است تاریخ اشتباه بدهد، یک منبع غیرواقعی معرفی کند یا درباره موضوعی که اطلاعات کافی ندارد با اعتمادبه‌نفس پاسخ دهد.
این نکته اهمیت زیادی دارد:
روان و مطمئن بودن یک پاسخ، تضمین نمی‌کند که آن پاسخ درست باشد.
چرا پیش‌بینی توکن می‌تواند به پاسخ‌های منطقی منجر شود؟
این سؤال یکی از جذاب‌ترین قسمت‌های ماجراست.
وقتی یک مدل در مقیاس بسیار بزرگ آموزش می‌بیند، دیگر با چند الگوی ساده روبه‌رو نیست.
مدل باید روابط بسیار زیادی میان کلمات، مفاهیم و ساختارهای مختلف زبان را یاد بگیرد.
در نتیجه، کاری که در ظاهر «پیش‌بینی توکن بعدی» به نظر می‌رسد، می‌تواند به رفتارهای بسیار پیچیده منجر شود.
مثلاً اگر از مدل بخواهیم یک مسئله چندمرحله‌ای را حل کند، مدل می‌تواند توالی‌ای از عملیات و استدلال‌ها را تولید کند که در نهایت به پاسخ برسد.
در مدل‌های reasoning، این فرایند به شکل صریح‌تر و با استفاده از reasoning tokens انجام می‌شود.
آیا ChatGPT خودش می‌داند که چه زمانی اشتباه کرده است؟
نه همیشه.
این یکی از محدودیت‌های مهم مدل‌های زبانی است.
ممکن است ChatGPT پاسخی اشتباه تولید کند اما همان پاسخ را با لحن کاملاً مطمئن ارائه دهد.
به همین دلیل اعتماد کردن صرف به لحن پاسخ کار درستی نیست.
OpenAI نیز تأکید می‌کند که میزان اطمینان ظاهری مدل معیار قابل اعتمادی برای صحت پاسخ نیست و اطلاعات مهم باید بررسی شوند.
به همین دلیل، برای موضوعات حساس یا اطلاعاتی که دقت آن‌ها اهمیت زیادی دارد، بهتر است از منابع معتبر و ابزارهای جست‌وجو و بررسی استفاده کنیم.
یک آزمایش ساده با ChatGPT
اگر می‌خواهید این موضوع را بهتر درک کنید، یک آزمایش جالب انجام دهید.
از ChatGPT بخواهید:
«یک مسئله منطقی چندمرحله‌ای را حل کن و جواب نهایی را توضیح بده.»
بعد همان سؤال را کمی تغییر دهید.
مثلاً یک شرط کوچک به مسئله اضافه کنید.
احتمالاً می‌بینید که پاسخ مدل نیز تغییر می‌کند.
این آزمایش نشان می‌دهد که مدل فقط یک پاسخ ثابت از قبل آماده‌شده را تحویل نمی‌دهد. ورودی و زمینه جدید می‌توانند مسیر تولید پاسخ را تغییر دهند.
در مدل‌های reasoning، این فرایند می‌تواند شامل بررسی چند مرحله‌ای مسئله و انتخاب مسیر مناسب برای رسیدن به نتیجه باشد.
آیا در آینده ممکن است هوش مصنوعی واقعاً فکر کند؟
این قسمت بیشتر به فلسفه و علوم شناختی مربوط می‌شود تا یک پاسخ قطعی مهندسی.
ما امروز می‌توانیم درباره قابلیت‌های محاسباتی مدل‌ها صحبت کنیم؛ مثلاً اینکه یک مدل می‌تواند مسئله‌ای را تحلیل کند، چند مرحله استدلال انجام دهد یا بین چند گزینه انتخاب کند.
اما اینکه آیا چنین فرایندی را باید «تفکر واقعی» نامید، سؤال متفاوتی است.
برای پاسخ به آن باید ابتدا مشخص کنیم منظورمان از فکر کردن چیست.
حل مسئله کافی است؟
داشتن حافظه لازم است؟
سیستم باید آگاهی داشته باشد؟
باید تجربه ذهنی داشته باشد؟
پاسخ به هرکدام از این پرسش‌ها می‌تواند تعریف متفاوتی از «فکر کردن» ایجاد کند.
بنابراین فعلاً بهتر است با دقت از واژه‌ها استفاده کنیم.
پس بالاخره ChatGPT فکر می‌کند یا نه؟
اگر «فکر کردن» را به معنای داشتن ذهن و تجربه آگاهانه مشابه انسان در نظر بگیریم، نمی‌توانیم صرفاً از رفتار ChatGPT نتیجه بگیریم که چنین تجربه‌ای دارد.
اما اگر منظورمان پردازش اطلاعات، بررسی روابط، حل مسائل و انجام فرایندهای استدلالی برای رسیدن به پاسخ باشد، مدل‌های جدید می‌توانند چنین کارهایی را انجام دهند.
در نتیجه، پاسخ دقیق‌تر این است:
ChatGPT فقط یک دستگاه ساده برای حدس زدن کلمه بعدی نیست؛ اما نباید توانایی استدلال محاسباتی آن را با تجربه ذهنی و آگاهی انسان یکی بدانیم.
پیش‌بینی توکن یکی از پایه‌های اصلی مدل‌های زبانی است، اما مدل‌های جدید می‌توانند روی همین پایه، فرایندهای پیچیده‌تری برای استدلال و حل مسئله انجام دهند.
جمع‌بندی
شاید جمله «ChatGPT فقط کلمه بعدی را پیش‌بینی می‌کند» در نگاه اول باعث شود هوش مصنوعی بسیار ساده به نظر برسد.
اما واقعیت پیچیده‌تر است.
مدل ابتدا با حجم بسیار زیادی از داده‌ها آموزش می‌بیند و الگوهای موجود در آن‌ها را در پارامترهای خود یاد می‌گیرد. هنگام پاسخ‌گویی نیز متن را به توکن تبدیل می‌کند و بر اساس زمینه موجود، توکن‌های بعدی را تولید می‌کند.
در مدل‌های reasoning، این فرایند می‌تواند شامل توکن‌های استدلالی و پردازش چندمرحله‌ای برای حل مسائل پیچیده باشد.
با این حال، یک نکته را نباید فراموش کنیم:
هوشمند به نظر رسیدن با انسان بودن فرق دارد.
ChatGPT می‌تواند استدلال کند، مسئله حل کند و پاسخ‌هایی بسیار شبیه گفت‌وگوی انسانی تولید کند؛ اما این موضوع به‌تنهایی ثابت نمی‌کند که هوش مصنوعی همان تجربه ذهنی، آگاهی یا احساساتی را دارد که انسان هنگام فکر کردن تجربه می‌کند.
شاید جذاب‌ترین بخش داستان همین باشد؛ ما هنوز در حال کشف این هستیم که وقتی یک ماشین می‌تواند با چنین پیچیدگی‌ای درباره جهان صحبت کند، دقیقاً چه چیزی درون آن اتفاق می‌افتد.
منابع:
- OpenAI — How ChatGPT and our foundation models are developed
- OpenAI — Reasoning models
- OpenAI — Does ChatGPT tell the truth?
