از ابزار هوش مصنوعی تا نیروی کار دیجیتال؛ سازمان برای مدیریت AI Agentها آماده است؟

# از ابزار هوش مصنوعی تا نیروی کار دیجیتال؛ سازمان برای مدیریت AI Agentها آماده است؟

تا همین چند وقت پیش، وقتی در سازمان درباره هوش مصنوعی صحبت می‌کردیم، معمولاً منظورمان ابزاری بود که از آن سؤال می‌پرسیدیم و پاسخ می‌گرفتیم.

یک گزارش را خلاصه می‌کرد، متنی می‌نوشت، داده‌ای را تحلیل می‌کرد یا پیشنهادی ارائه می‌داد. بعد از آن، یک انسان تصمیم می‌گرفت که با این خروجی چه کند.

این مرز اما در حال جابه‌جا شدن است.

نسل جدیدی از سیستم‌های هوش مصنوعی، که امروز بیشتر با عنوان **AI Agent** از آن‌ها یاد می‌شود، قرار نیست فقط پاسخ بدهند. آن‌ها می‌توانند برای رسیدن به یک هدف چند مرحله را دنبال کنند، اطلاعات جمع کنند، با سامانه‌های مختلف ارتباط بگیرند و در نهایت اقدامی انجام دهند.

اینجاست که موضوع از یک فناوری جذاب فراتر می‌رود.

وقتی هوش مصنوعی فقط پیشنهاد می‌دهد، مسئله اصلی کیفیت پاسخ است.

اما وقتی می‌تواند اقدام کند، موضوعاتی مثل اختیار، مسئولیت، دسترسی، نظارت و پاسخ‌گویی وارد ماجرا می‌شوند.

و در این نقطه، یک سؤال ساده اهمیت زیادی پیدا می‌کند:

**اگر یک AI Agent از طرف سازمان کاری انجام دهد و نتیجه آن اشتباه باشد، چه کسی مسئول است؟**

## فاصله بین «پاسخ دادن» و «اقدام کردن»

فرض کنیم مدیر فروش از یک ابزار هوش مصنوعی می‌خواهد فروش ماه گذشته را بررسی کند.

سیستم اطلاعات را تحلیل می‌کند، چند نکته مهم را استخراج می‌کند و حتی ممکن است پیشنهادهایی برای ماه آینده ارائه دهد.

در این سناریو هنوز اتفاق خاصی نیفتاده است. هوش مصنوعی تحلیل کرده و انسان تصمیم می‌گیرد.

حالا سناریو را کمی تغییر دهیم.

یک AI Agent به CRM شرکت متصل است. مشتریانی را که احتمال ریزش آن‌ها بالاست شناسایی می‌کند، برای هرکدام پیشنهاد مناسب انتخاب می‌کند، متن پیام را می‌نویسد، کمپینی در سیستم بازاریابی ایجاد می‌کند و پیام‌ها را برای مشتریان ارسال می‌کند.

در این حالت دیگر با یک ابزار تحلیل‌گر روبه‌رو نیستیم.

این Agent بخشی از فرآیند واقعی کسب‌وکار را انجام داده است.

همین تغییر، هرچند در ظاهر کوچک به نظر می‌رسد، مدل ریسک را کاملاً عوض می‌کند.

از این لحظه سؤال‌های دیگری مطرح می‌شوند.

این Agent به چه اطلاعاتی دسترسی دارد؟

چه کسی این دسترسی را به آن داده است؟

تا کجا اجازه دارد مستقل عمل کند؟

چه زمانی باید از انسان اجازه بگیرد؟

اگر اطلاعات اشتباه را مبنای تصمیم قرار دهد چه می‌شود؟

اگر دسترسی آن مورد سوءاستفاده قرار گیرد، آیا سازمان متوجه خواهد شد؟

و شاید مهم‌تر از همه:

**مالک این Agent چه کسی است؟**

## هر Agent باید صاحب داشته باشد

در سازمان معمولاً هیچ فرآیند یا سامانه مهمی را بدون مالک رها نمی‌کنیم.

یک سامانه مالی مالک دارد.

یک فرآیند منابع انسانی مسئول دارد.

حتی یک حساب کاربری مشخص است متعلق به چه کسی است و چرا ایجاد شده است.

اما در مورد Agentها این نظم ممکن است خیلی زود از بین برود.

تصور کنید واحد فروش یک Agent می‌سازد، منابع انسانی Agent دیگری برای بررسی رزومه‌ها راه‌اندازی می‌کند، واحد مالی از Agentی برای تحلیل هزینه‌ها استفاده می‌کند و تیم فناوری هم چند Agent برای مانیتورینگ، پشتیبانی و توسعه نرم‌افزار دارد.

در ابتدا همه‌چیز قابل کنترل به نظر می‌رسد.

اما بعد از یک یا دو سال ممکن است سازمان ده‌ها Agent فعال داشته باشد؛ بدون آنکه کسی دقیقاً بداند چند Agent وجود دارد، هرکدام چه کاری انجام می‌دهند و به چه اطلاعاتی دسترسی دارند.

این همان نقطه‌ای است که یک ابزار مفید می‌تواند به یک مسئله حاکمیتی تبدیل شود.

برای هر Agent حداقل باید دو نوع مالکیت روشن باشد.

یک **مالک کسب‌وکاری (Business Owner)** که مسئول هدف، کاربرد و نتیجه‌ای است که Agent باید ایجاد کند.

و یک **مالک فنی (Technical Owner)** که مسئول پیکربندی، امنیت، اتصال به سامانه‌ها و نگهداری آن است.

این تفکیک مهم است، اما یک نکته اساسی نباید گم شود:

**واگذاری کار به هوش مصنوعی به معنی واگذاری مسئولیت نیست.**

مسئولیت نهایی همچنان باید در ساختار انسانی سازمان باقی بماند.

## Agent هم یک هویت دیجیتال است

کارکنان سازمان معمولاً هویت دیجیتال مشخصی دارند.

حساب کاربری برایشان ایجاد می‌شود. بر اساس نقششان دسترسی می‌گیرند. فعالیتشان ثبت می‌شود و اگر سمت آن‌ها تغییر کند یا از سازمان خارج شوند، دسترسی‌شان هم باید تغییر کند.

حالا Agentی را در نظر بگیریم که می‌تواند به CRM، ERP، ایمیل، فایل‌ها، پایگاه داده یا APIهای سازمان متصل شود.

چرا باید با آن متفاوت برخورد کنیم؟

Agent عملاً نوع جدیدی از **هویت غیرانسانی (Non-Human Identity)** است.

اگر قرار است کاری از طرف سازمان انجام دهد، باید بتوانیم مشخص کنیم این اقدام دقیقاً توسط کدام Agent، در چه زمانی، با چه سطح دسترسی و از طرف چه فرآیندی انجام شده است.

یکی از اشتباهاتی که احتمالاً در سال‌های آینده زیاد خواهیم دید، استفاده Agentها از حساب‌های مشترک یا Service Accountهای عمومی است.

این کار شاید در ابتدا ساده‌تر باشد، اما بعدها پاسخ به یک سؤال ساده را دشوار می‌کند:

**این اقدام دقیقاً توسط چه کسی یا چه چیزی انجام شده است؟**

برای سازمانی که قرار است Agentها را در مقیاس جدی به کار بگیرد، این سؤال دیگر یک جزئیات فنی نیست.

موضوع Audit، امنیت و پاسخ‌گویی است.

## اختیار Agent باید محدود باشد

در امنیت اطلاعات سال‌هاست از اصل **Least Privilege** صحبت می‌کنیم.

هر فرد یا سیستم فقط باید به همان میزانی دسترسی داشته باشد که برای انجام وظیفه‌اش لازم است.

در مورد Agentها این اصل اهمیت بیشتری پیدا می‌کند.

اگر Agent فقط برای بررسی موجودی کالا ساخته شده است، چرا باید اجازه تغییر موجودی داشته باشد؟

اگر وظیفه آن آماده‌کردن پاسخ به مشتری است، چرا باید بتواند بدون تأیید انسان پیام را ارسال کند؟

اگر قرار است هزینه‌ها را تحلیل کند، چرا باید دسترسی ثبت یا تغییر اسناد مالی داشته باشد؟

در پروژه‌های واقعی همیشه وسوسه‌ای وجود دارد که برای ساده‌تر شدن کار، دسترسی بیشتری به سیستم داده شود.

اما در مورد Agent، دسترسی بیشتر فقط به معنای راحتی بیشتر نیست.

به معنای **دامنه اثر بزرگ‌تر در صورت خطا** نیز هست.

به همین دلیل بهتر است برای اختیار Agentها یک طیف در نظر گرفته شود.

گاهی Agent فقط باید **پیشنهاد بدهد**.

گاهی می‌تواند یک اقدام را **آماده کند** اما اجرای آن نیازمند تأیید انسان باشد.

و در برخی فرآیندهای کم‌ریسک می‌توان اجازه داد Agent در محدوده‌ای مشخص، اقدام را **مستقل اجرا کند**.

اشتباه اصلی این است که این سه سطح را با هم یکی بدانیم.

هرچه Agent به مرحله اجرای مستقل نزدیک‌تر می‌شود، کنترل‌ها هم باید جدی‌تر شوند.

## Human-in-the-Loop فقط یک عبارت نیست

در بسیاری از پروژه‌های AI گفته می‌شود که «انسان باید در حلقه تصمیم باقی بماند».

این جمله درست است، اما کافی نیست.

مسئله اصلی این است که انسان **در کدام نقطه** وارد فرآیند شود.

برای Agentی که زمان جلسه پیشنهاد می‌دهد، شاید اصلاً نیازی به تأیید چندمرحله‌ای نباشد.

برای ثبت یک سفارش کم‌ارزش، شاید تعیین سقف مبلغ کافی باشد.

اما اگر Agent قرار است پرداخت انجام دهد، دسترسی امنیتی ایجاد کند، در فرآیند استخدام اثر بگذارد یا تغییری در یک سامانه عملیاتی ایجاد کند، موضوع کاملاً متفاوت است.

نمی‌توان برای همه Agentها یک سیاست یکسان نوشت.

سطح نظارت باید با سطح ریسک متناسب باشد.

یک قاعده ساده می‌تواند کمک کند:

**هرچه اثر یک تصمیم بیشتر باشد و بازگرداندن آن دشوارتر، استقلال Agent باید کمتر شود.**

این شاید از بسیاری از چارچوب‌های پیچیده حاکمیتی کاربردی‌تر باشد.

## آیا می‌دانیم چند Agent در سازمان داریم؟

این سؤال ممکن است امروز کمی زود به نظر برسد، اما احتمالاً خیلی زود به یکی از سؤال‌های مهم CIO و CISO تبدیل می‌شود.

چند Agent در سازمان فعال هستند؟

چه کسی آن‌ها را ایجاد کرده است؟

هرکدام چه وظیفه‌ای دارند؟

به چه سامانه‌هایی متصل هستند؟

چه اطلاعاتی را می‌بینند؟

چه کسی مسئول آن‌هاست؟

اگر پاسخ این سؤال‌ها در چند فایل پراکنده، ذهن افراد یا مستندات پروژه‌ها باشد، کنترل واقعی وجود ندارد.

سازمان‌هایی که قصد دارند استفاده از Agentها را گسترش دهند، احتمالاً به یک **Agent Registry** نیاز خواهند داشت.

یک فهرست رسمی که حداقل مشخص کند هر Agent چرا ایجاد شده، مالک آن چه کسی است، به چه سیستم‌هایی دسترسی دارد، سطح اختیارش چقدر است و در چه شرایطی باید متوقف شود.

شاید امروز ثبت چنین اطلاعاتی برای چند Agent ساده، بیش از حد رسمی به نظر برسد.

اما دقیقاً همین اتفاق را قبلاً درباره سرورها، حساب‌های سرویس، APIها، ماشین‌های مجازی و سرویس‌های Cloud تجربه کرده‌ایم.

تعداد کم به‌سرعت زیاد می‌شود.

و چیزی که امروز ساده به نظر می‌رسد، چند سال بعد به مسئله مدیریت دارایی تبدیل می‌شود.

## Agent هم باید بازنشسته شود

ما برای کارکنان چرخه عمر تعریف می‌کنیم.

فرد وارد سازمان می‌شود، مسئولیت می‌گیرد، دسترسی دریافت می‌کند، ممکن است نقش او تغییر کند و در نهایت از سازمان خارج شود.

Agent هم به چرخه عمر نیاز دارد.

ساخته می‌شود.

آزمایش می‌شود.

تأیید می‌شود.

در محیط واقعی قرار می‌گیرد.

تغییر می‌کند.

پایش می‌شود.

و در نهایت باید متوقف یا بازنشسته شود.

مرحله آخر احتمالاً یکی از بخش‌هایی است که به‌راحتی فراموش خواهد شد.

Agentی برای یک پروژه ساخته می‌شود. پروژه تمام می‌شود، اما Agent همچنان فعال است.

مالک اولیه آن از سازمان می‌رود، ولی Credentialها باقی می‌مانند.

سامانه‌ای که Agent به آن متصل بوده تغییر می‌کند، اما دسترسی قبلی هنوز وجود دارد.

این مسئله جدیدی نیست.

سال‌هاست همین مشکل را با Service Accountها، API Keyها و دسترسی‌های قدیمی داریم.

تفاوت اینجاست که Agent فقط «دسترسی» ندارد؛ ممکن است بتواند **تصمیم بگیرد و اقدام کند**.

## از ابزار به نیروی کار دیجیتال

شاید لازم باشد نگاه خودمان را به Agentها تغییر دهیم.

تا زمانی که تعداد آن‌ها کم است، می‌توان آن‌ها را مجموعه‌ای از ابزارهای فناوری دانست.

اما اگر در واحد فروش، منابع انسانی، مالی، عملیات، فناوری و پشتیبانی ده‌ها Agent فعال شوند، دیگر صرفاً با مجموعه‌ای از ابزارها روبه‌رو نیستیم.

با چیزی شبیه یک **نیروی کار دیجیتال (Digital Workforce)** مواجهیم.

نیروی کاری که انسان نیست، اما وظیفه دارد.

هویت دارد.

دسترسی دارد.

با اطلاعات سازمان کار می‌کند.

با سیستم‌های دیگر ارتباط می‌گیرد.

اقدام انجام می‌دهد.

و عملکردش قابل اندازه‌گیری است.

اگر از این زاویه به موضوع نگاه کنیم، شاید دیگر AI Governance به‌تنهایی کافی نباشد.

به مفهومی گسترده‌تر نیاز داریم:

**Digital Workforce Governance**

یعنی سازمان برای Agentهای خود همان سؤالاتی را مطرح کند که درباره هر نقش مهم دیگری مطرح می‌کند.

چه کسی مالک آن است؟

چه وظیفه‌ای دارد؟

به چه چیزی دسترسی دارد؟

تا کجا اختیار دارد؟

چه کسی عملکردش را کنترل می‌کند؟

و چه زمانی باید متوقف شود؟

این سؤالات ساده‌اند.

اما پاسخ ندادن به آن‌ها در مقیاس بزرگ، ساده نخواهد بود.

## لازم نیست از Agentها بترسیم

هدف از این بحث ایجاد نگرانی درباره AI Agentها نیست.

برعکس، Agentها می‌توانند بخش قابل توجهی از کارهای تکراری، هماهنگی‌ها و حتی برخی تصمیم‌های عملیاتی را سریع‌تر و ارزان‌تر انجام دهند.

اما بین «استفاده از Agent» و «وابسته شدن به Agent» فاصله زیادی وجود دارد.

سازمان بهتر است این مسیر را مرحله‌ای طی کند.

از فرآیندهای مشخص شروع کند.

دامنه اختیار را محدود نگه دارد.

مالکیت را از روز اول مشخص کند.

فعالیت‌ها را ثبت کند.

خطاها را بررسی کند.

و فقط زمانی استقلال Agent را بیشتر کند که تجربه عملی کافی برای کنترل آن وجود داشته باشد.

در واقع، مسئله اصلی این نیست که Agent چقدر هوشمند است.

مسئله این است که **سازمان چقدر برای استفاده مسئولانه از این هوشمندی آماده است.**

## سؤال بعدی مدیران

تا امروز بخش زیادی از گفت‌وگوهای مدیریتی درباره AI حول این سؤال می‌چرخید:

«آیا باید از هوش مصنوعی استفاده کنیم؟»

به‌نظر می‌رسد این سؤال به‌تدریج اهمیت خود را از دست می‌دهد.

سؤال‌های جدید سخت‌تر خواهند بود:

چه کاری را به Agent واگذار کنیم؟

چه میزان اختیار در اختیارش بگذاریم؟

کجا حضور انسان ضروری است؟

چگونه فعالیت آن را کنترل کنیم؟

و وقتی اشتباه کرد، چه کسی مسئول خواهد بود؟

ممکن است در آینده سازمان موفق، سازمانی نباشد که بیشترین تعداد AI Agent را به کار گرفته است.

شاید سازمان موفق‌تر، سازمانی باشد که بهتر از دیگران می‌داند **کجا به Agent اختیار بدهد و کجا اختیار را پس بگیرد.**

و قبل از ایجاد Agent بعدی، شاید بد نباشد مدیران یک سؤال ساده از خودشان بپرسند:

**اگر این Agent فردا اشتباه کند، آیا دقیقاً می‌دانیم چه اتفاقی افتاده، چه کسی مسئول است و چگونه می‌توانیم آن را متوقف کنیم؟**