پاسخ خوب هوش مصنوعی، به تصمیم بد منجر می‌شود

# وقتی پاسخ خوب هوش مصنوعی، به تصمیم بد منجر می‌شود

این روزها در بسیاری از جلساتی که صحبت از هوش مصنوعی می‌شود، یک جمله زیاد شنیده می‌شود:

«از AI پرسیدیم، پیشنهادش این بود.»

خود این جمله اشکالی ندارد. من هم تقریباً هر روز از هوش مصنوعی برای تحلیل، مقایسه، بررسی سناریوها و به چالش کشیدن بعضی از ایده‌های خودم استفاده می‌کنم.

مسئله از جایی شروع می‌شود که فاصله میان «از AI پرسیدیم» و «پس همین کار را انجام دهیم» از بین می‌رود؛ به‌خصوص زمانی که فرد دریافت‌کننده پاسخ، تخصص کافی برای ارزیابی آن ندارد.

مدل‌های هوش مصنوعی امروز می‌توانند درباره تقریباً هر موضوعی پاسخی ارائه کنند که در نگاه اول حرفه‌ای و قانع‌کننده به نظر برسد؛ ساختار خوبی داشته باشد، مزایا و معایب را توضیح دهد و حتی یک پیشنهاد مشخص ارائه کند.

اما یک پاسخ خوب نوشته‌شده، الزاماً پاسخ درستی نیست.

و حتی پاسخ درست هم الزاماً به تصمیم درست منجر نمی‌شود.

---

چند سال قبل اگر مدیری می‌خواست درباره معماری شبکه، امنیت سایبری، ERP یا Cloud تصمیم بگیرد، معمولاً با فردی که در آن حوزه تجربه داشت مشورت می‌کرد.

امروز کافی است سؤال را در ChatGPT، Copilot، Gemini یا ابزار دیگری وارد کند و چند ثانیه بعد یک تحلیل نسبتاً کامل دریافت کند.

این اتفاق ارزشمند است؛ چون دسترسی به دانش تخصصی را بسیار ساده‌تر کرده است.

اما دسترسی به دانش با داشتن قدرت قضاوت تخصصی یکی نیست.

فرض کنید فردی درباره طراحی Disaster Recovery از هوش مصنوعی سؤال می‌کند.

مدل ممکن است درباره RTO، RPO، Replication، Backup و Failover توضیح مناسبی ارائه دهد.

برای فرد غیرمتخصص، همین پاسخ شاید کامل به نظر برسد.

اما یک متخصص زیرساخت بلافاصله سؤالات دیگری مطرح می‌کند:

آیا وابستگی سرویس‌ها در نظر گرفته شده؟

Replication دقیقاً از چه نوع خرابی محافظت می‌کند؟

اگر داده خراب یا رمزگذاری شود چه اتفاقی می‌افتد؟

Restore چه زمانی واقعاً تست شده؟

Failover چقدر طول می‌کشد؟

و مهم‌تر از همه، آیا اصلاً مسئله اصلی سازمان Disaster Recovery است؟

متخصص معمولاً فقط پاسخ را نمی‌بیند؛ چیزهایی را هم می‌بیند که در پاسخ وجود ندارند.

---

ما زیاد درباره Hallucination صحبت می‌کنیم؛ یعنی زمانی که مدل اطلاعات نادرست تولید می‌کند.

اما خطر همیشه این نیست که AI پاسخ اشتباه بدهد.

گاهی خطر بزرگ‌تر این است که کاربر نتواند تشخیص دهد پاسخ اشتباه است.

مدل می‌تواند یک جمله نادرست را با همان اطمینانی بیان کند که یک واقعیت صحیح را ارائه می‌دهد.

در چنین شرایطی، کیفیت نگارش و اعتمادبه‌نفس ظاهری پاسخ ممکن است با کیفیت واقعی تحلیل اشتباه گرفته شود.

و کاربر غیرمتخصص دقیقاً در همین نقطه آسیب‌پذیرتر است.

---

هوش مصنوعی به بسیاری از ما امکان داده با زبان تخصصی حوزه‌هایی صحبت کنیم که در آن‌ها متخصص نیستیم.

این اتفاق از یک طرف بسیار مثبت است.

مدیرعامل می‌تواند قبل از جلسه با CIO درباره Zero Trust مطالعه کند.

مدیر مالی می‌تواند درباره FinOps سؤال کند.

مدیر منابع انسانی می‌تواند درباره People Analytics تحقیق کند.

اما آشنایی با ادبیات یک حوزه نباید با تسلط بر آن حوزه اشتباه گرفته شود.

فردی ممکن است بعد از چند ساعت کار با AI درباره Kubernetes، API Gateway یا Data Lakehouse کاملاً روان صحبت کند؛ اما روان صحبت کردن با توانایی تصمیم‌گیری یکسان نیست.

تخصص فقط مجموعه‌ای از اطلاعات نیست.

بخش مهمی از آن حاصل دیدن شکست‌ها، استثناها، محدودیت‌ها و پیامدهایی است که معمولاً در مستندات نوشته نمی‌شوند.

کسی که چند پروژه مهاجرت ERP را تجربه کرده، معمولاً سؤالاتی می‌پرسد که شاید اصلاً در ذهن فردی که صرفاً درباره ERP مطالعه کرده شکل نگیرد.

---

فرض کنید مدیر یک شرکت از AI می‌پرسد:

«آیا بهتر است ERP فعلی را تعویض کنیم؟»

مدل می‌تواند مزایا و معایب، ریسک مهاجرت، Roadmap و معیارهای انتخاب محصول را ارائه کند.

همه این‌ها مفید است.

اما آیا AI می‌داند طی ده سال گذشته چه تعداد Customization ایجاد شده؟

کیفیت Master Data چگونه است؟

قرارداد فعلی فروشنده چه محدودیت‌هایی دارد؟

تیم داخلی چقدر ظرفیت تغییر دارد؟

چه پروژه‌های دیگری هم‌زمان اجرا می‌شوند؟

و آیا مدیران واحدهای کسب‌وکار واقعاً حاضر به تغییر فرآیندهای خود هستند؟

احتمالاً نه.

بنابراین ممکن است تحلیل AI از نظر منطقی درست باشد، اما تصمیم حاصل از آن برای همان سازمان اشتباه باشد.

تصمیم راهبردی فقط از اطلاعات ساخته نمی‌شود.

Context، تجربه، محدودیت، زمان‌بندی، سیاست سازمانی، تحمل ریسک و بسیاری از متغیرهای دیگر در آن نقش دارند؛ متغیرهایی که بخش بزرگی از آن‌ها هرگز وارد Prompt نمی‌شوند.

---

گاهی تصور می‌شود Prompt Engineering راه‌حل این مسئله است.

Prompt بهتر، قطعاً می‌تواند پاسخ بهتری ایجاد کند.

اما Prompt خوب جای تخصص را نمی‌گیرد.

اگر ندانید چه چیزی مهم است، چطور می‌توانید مطمئن شوید مدل همه ابعاد مهم را بررسی کرده؟

اگر Failure Modeهای یک معماری را نشناسید، چطور درباره آن‌ها سؤال خواهید کرد؟

اگر ریسک‌های قراردادهای Cloud را ندانید، چگونه Vendor Lock-in را ارزیابی می‌کنید؟

مشکل بسیاری از تصمیم‌ها کمبود پاسخ نیست.

مشکل این است که مسئله از ابتدا درست تعریف نشده است.

و تعریف صحیح مسئله، همچنان یکی از باارزش‌ترین مهارت‌های انسانی است.

---

موضوع مهم دیگر Human in the Loop است.

در بسیاری از چارچوب‌های AI Governance گفته می‌شود که انسان باید در تصمیم‌های مهم حضور داشته باشد.

اما سؤال مهم این است:

کدام انسان؟

اگر خروجی AI درباره امنیت سایبری توسط فردی بررسی شود که خودش دانش کافی در امنیت ندارد، حضور او الزاماً کنترل مؤثری ایجاد نمی‌کند.

Human in the Loop زمانی ارزش واقعی دارد که فرد بتواند خروجی ماشین را Challenge کند و بگوید:

«این فرض درست نیست.»

«این داده ناقص است.»

«این گزینه در محیط ما قابل اجرا نیست.»

یا حتی:

«مسئله را از ابتدا اشتباه تعریف کرده‌ایم.»

در غیر این صورت، فرآیند ممکن است ظاهراً انسانی باشد، اما تصمیم عملاً توسط ماشین شکل گرفته باشد.

---

آیا با بهتر شدن مدل‌ها این مشکل از بین می‌رود؟

بخشی از آن احتمالاً کاهش پیدا می‌کند.

مدل‌ها دقیق‌تر شده‌اند، قابلیت استدلال آن‌ها بهتر شده و ابزارهای جدید امکان تحلیل اسناد و داده‌های واقعی را فراهم کرده‌اند.

اما سازمان‌ها نمی‌توانند Governance خود را بر این فرض بنا کنند که مدل بعدی دیگر اشتباه نخواهد کرد.

مدل بهتر، ریسک را کاهش می‌دهد؛ حذف نمی‌کند.

حتی هرچه پاسخ‌ها قانع‌کننده‌تر شوند، ممکن است تشخیص خطا برای کاربر غیرمتخصص دشوارتر شود.

بنابراین سؤال اصلی نباید فقط این باشد:

«چقدر می‌توانیم به AI اعتماد کنیم؟»

سؤال مهم‌تر این است:

**«اگر AI اشتباه کرد، آیا فرآیند ما می‌تواند قبل از تبدیل شدن آن اشتباه به تصمیم، خطا را متوقف کند؟»**

از نگاه مدیریتی، این سؤال اهمیت بیشتری دارد.

---

من نقش مناسب هوش مصنوعی را در بسیاری از فعالیت‌های حرفه‌ای بیشتر شبیه Copilot می‌بینم تا Autopilot.

از AI می‌توان برای تولید ایده، مقایسه گزینه‌ها، بررسی سناریوها، Challenge کردن یک معماری یا حتی استدلال علیه نظر خودمان استفاده کرد.

اما هرچه پیامد تصمیم بیشتر می‌شود، سطح بررسی تخصصی نیز باید افزایش پیدا کند.

تصمیم درباره متن یک ایمیل با تصمیم درباره معماری امنیت سازمان یکسان نیست.

خلاصه‌کردن یک گزارش با مهاجرت Core System یک بانک یا شرکت بزرگ قابل مقایسه نیست.

سطح Governance باید متناسب با Impact باشد.

---

به همین دلیل سازمان‌ها علاوه بر AI Access، به AI Literacy هم نیاز دارند.

دادن دسترسی به ChatGPT یا Copilot به هزار کارمند، به معنی آماده بودن سازمان برای استفاده صحیح از هوش مصنوعی نیست.

کارکنان باید بدانند چه زمانی پاسخ AI قابل استفاده است و چه زمانی باید متوقف شوند.

باید منبع بخواهند، فرض‌ها را بررسی کنند، اطلاعات حساس را بدون کنترل وارد ابزار نکنند، خروجی را با داده واقعی سازمان تطبیق دهند و بدانند چه تصمیم‌هایی نیاز به بررسی متخصص دارد.

شاید یکی از مهم‌ترین مهارت‌های آینده این نباشد که چه کسی بهتر با AI صحبت می‌کند.

بلکه این باشد که چه کسی بهتر می‌داند **چه زمانی نباید حرف AI را بپذیرد.**

---

برای خودم یک مدل ساده در استفاده از AI دارم:

**AI → Analyse → Verify → Decide**

ابتدا از AI برای سرعت دادن به تحلیل استفاده می‌کنیم.

بعد پاسخ را در Context واقعی مسئله بررسی می‌کنیم.

فرض‌ها، داده‌ها و نقاط حساس را Verify می‌کنیم.

و در نهایت، فردی که مسئولیت تصمیم را بر عهده دارد، تصمیم می‌گیرد.

این فرآیند شاید بدیهی به نظر برسد، اما کافی است به تصمیم‌هایی توجه کنیم که این روزها با جمله «از ChatGPT پرسیدیم» شروع می‌شوند.

---

من فکر نمی‌کنم گسترش هوش مصنوعی اهمیت متخصصان را از بین ببرد.

احتمالاً بخشی از کارهای فعلی آن‌ها خودکار خواهد شد، اما ارزش تخصص به‌تدریج از «دانستن پاسخ» به سمت «توانایی قضاوت درباره پاسخ» حرکت می‌کند.

متخصص آینده شاید کمتر وقت خود را صرف جمع‌آوری اطلاعات کند و بیشتر روی تعریف مسئله، بررسی فرض‌ها، تشخیص Trade-offها، سنجش ریسک و ارزیابی خروجی ماشین تمرکز کند.

هوش مصنوعی هزینه تولید پاسخ را به‌شدت کاهش داده است.

اما هزینه یک تصمیم اشتباه همچنان واقعی است.

و شاید هرچه تولید پاسخ ارزان‌تر شود، ارزش قضاوت صحیح بیشتر شود.

در نهایت، مسئله اصلی برای مدیران دیگر این نیست که آیا باید از AI استفاده کنند یا نه.

AI وارد فرآیندهای کاری شده و حضورش بیشتر هم خواهد شد.

سؤال مهم‌تر این است:

چه کسی از آن استفاده می‌کند؟

برای چه تصمیمی؟

با چه سطحی از دانش؟

بر اساس چه داده‌ای؟

و چه کسی خروجی آن را بررسی می‌کند؟

شاید یکی از بزرگ‌ترین ریسک‌های عصر هوش مصنوعی، مدل‌هایی نباشند که اشتباه می‌کنند.

مدل‌ها اشتباه خواهند کرد.

ریسک جدی‌تر جایی است که ما متوجه اشتباه آن‌ها نشویم.

در چنین شرایطی، مهارت اصلی فقط این نیست که سؤال خوبی از هوش مصنوعی بپرسیم.

**باید یاد بگیریم از پاسخ هوش مصنوعی هم سؤال بپرسیم.**