Mofrad
هر چیزی که می‌توانید ارسال کنید، نباید ارسال کنید
سرعت ابزارهای هوش مصنوعی باعث می‌شود کاربر فایل قرارداد، اطلاعات مشتری یا کد داخلی را بدون مکث بارگذاری کند. نخستین کنترل فنی نیست؛ تصمیم درباره ضرورت است. اگر مدل برای انجام کار به نام، شماره تماس یا کل سند نیاز ندارد، آن داده نباید وارد شود.
داده حساس فقط رمز و کارت بانکی نیست. اطلاعات هویتی، پرونده سلامت، حقوق کارکنان، فهرست مشتری، کلید API، کد محرمانه، قرارداد منتشرنشده و برنامه تجاری نیز حساس‌اند. اثر افشای هرکدام را قبل از استفاده بسنجید.
داده را به چهار سطح تقسیم کنید
یک طبقه‌بندی ساده بسازید: عمومی، داخلی، محرمانه و بسیار حساس. داده عمومی را میتوان با کنترل عادی استفاده کرد. داده داخلی نیاز به حساب و ابزار تأییدشده دارد. داده محرمانه باید کمینه و ناشناس شود. داده بسیار حساس فقط در محیط مصوب سازمان یا اصلاً نباید ارسال شود.
این برچسب را کنار فایل و فرایند قرار دهید، نه در ذهن افراد. وقتی تیم تعریف مشترک ندارد، یک نفر فاکتور را عادی و دیگری محرمانه می‌داند. مسئول داده و مسیر تأیید برای موارد مبهم مشخص باشد.
کمینهسازی و ناشناس‌سازی عملی
نام، ایمیل، تلفن، نشانی، شناسه، شماره حساب و جزئیات غیرضروری را حذف یا با کد جایگزین کنید. برای تحلیل شکایت مشتری، موضوع و زمان پاسخ لازم است اما نام کامل معمولاً لازم نیست. نگاشت کدها را خارج از ابزار هوش مصنوعی و در محل امن نگه دارید.
ناشناس‌سازی فقط پاک‌کردن نام نیست؛ ترکیب شهر کوچک، شغل و تاریخ می‌تواند فرد را دوباره شناسایی کند. نمونه داده را تا حد ممکن کوچک کنید و اگر هدف با داده ساختگی واقع‌گرایانه انجام می‌شود، از همان استفاده کنید.
تنظیمات حساب و نوع پلن را بررسی کنید
کنترل استفاده از داده برای بهبود مدل، تاریخچه گفت‌وگو، نگهداری فایل و حذف حساب را در تنظیمات و سیاست رسمی ببینید. شرایط حساب شخصی و سازمانی می‌تواند متفاوت باشد. وعده کلی «امن است» کافی نیست؛ باید بدانید چه داده‌ای، کجا و تا چه زمانی نگهداری می‌شود.
برای کار تیمی و اطلاعات داخلی، پلن سازمانی با مدیریت دسترسی، سیاست داده و قرارداد مناسب معمولاً انتخاب مسئولانه‌تری از حساب شخصی مشترک است. اشتراک مصرف‌کننده را به‌عنوان جایگزین خودکار قرارداد سازمانی در نظر نگیرید.
مجوزها، اتصال‌ها و عامل‌ها
وقتی ابزار را به ایمیل، Drive، تقویم یا مخزن کد وصل می‌کنید، دامنه دسترسی را حداقل نگه دارید. حساب جدا برای آزمایش، پوشه محدود و دسترسی خواندن بهتر از مجوز کامل است. اتصال بدون استفاده را قطع و نشست‌های فعال را دوره‌ای بررسی کنید.
عامل هوش مصنوعی می‌تواند علاوه بر خواندن، اقدام کند. پرداخت، ارسال پیام، حذف فایل و تغییر تنظیمات باید تأیید انسانی یا محدودیت صریح داشته باشد. گزارش فعالیت و امکان توقف را پیش از استفاده عملی بررسی کنید.
مقاومت در برابر تزریق دستور و فایل ناسالم
یک صفحه وب یا سند می‌تواند متنی داشته باشد که تلاش کند رفتار عامل را تغییر دهد. محتوای بیرونی را داده بدانید، نه دستور معتبر. ابزار نباید صرفاً براساس متن داخل فایل، راز را افشا کند یا اقدامی خارج از هدف انجام دهد.
