امنیت چت هوش مصنوعی؛ چه اطلاعاتی را نباید بفرستیم؟
رمز، کد ملی، اطلاعات بانکی و پرونده دیگران جایی در پرامپت ندارند. یاد بگیرید داده را کم کنید، شناسه‌ها را بردارید و تنظیمات هر سرویس را آگاهانه بررسی کنید.
امنیت چت هوش مصنوعی از این تصمیم شروع می‌شود: رمز عبور، کد ملی، اطلاعات کامل کارت بانکی، داده شناسایی مشتری و پرونده پزشکی را در گفت‌وگوی عمومی کپی نکنید. فقط بخش لازم برای سؤال را بفرستید، شناسه‌ها را پیش از ارسال حذف کنید و تنظیمات آموزش، نگهداری، حافظه و اشتراک‌گذاری را جداگانه بررسی کنید. هیچ گزینه‌ای جای کم‌کردن داده حساس را نمیگیرد.
این راهنما برای کارهای روزمره است: بازنویسی نامه، توضیح یک اصطلاح، تحلیل فروش یا رفع خطای برنامه. هدف این است که بدون فرستادن زندگی شخصی یا اطلاعات کاری دیگران، پاسخ مفیدی بگیرید. اصول زیر در وان ای آی (1ai) و هر سرویس دیگری کاربرد دارند؛ نام مدل به‌تنهایی تکلیف حریم خصوصی را روشن نمی‌کند.
برای امنیت چت هوش مصنوعی چه اطلاعاتی را نفرستیم؟
اگر می‌پرسید «چه اطلاعاتی را به هوش مصنوعی ندهیم»، این جدول نقطه شروع خوبی است. منظور، واردنکردن داده واقعی در یک ابزار عمومی یا سرویس تأییدنشده برای آن نوع اطلاعات است. متن تایپ‌شده، فایل پیوست، عکس و پیام صوتی همگی باید بررسی شوند؛ حساسیت داده با عوض‌شدن قالب آن از بین نمی‌رود.
| نوع داده | نمونه‌ای که نباید وارد شود | جایگزین برای طرح سؤال |
|---|---|---|
| اطلاعات ورود | رمز، کد یک‌بارمصرف، کد بازیابی، کلید API و توکن نشست | نام متغیر و عبارت «مقدار حذف شده» |
| مدارک هویتی | کد ملی، تصویر شناسنامه، گذرنامه و امضا | نقش فرد و شناسه ساختگی مثل «فرد الف» |
| اطلاعات بانکی | تصویر کارت، شماره کامل کارت همراه سایر مشخصات، رمز و CVV2 | شرح مشکل بدون مشخصات حساب |
| داده مشتری | نام، تلفن، نشانی، سفارش و مکالمه خصوصی | نمونه ساختگی یا آمار تجمیعی |
| پرونده سلامت | نسخه و آزمایش دارای مشخصات، شرح درمان قابل انتساب | سؤال عمومی درباره اصطلاح یا شاخص |
| اسرار کاری | قرارداد محرمانه، برنامه تجاری، کد خصوصی و فایل دسترسی | بند پاک‌سازی‌شده یا نمونه کوچک مستقل |
رمزها و کلیدها را حتی برای عیب‌یابی نفرستید
برای پیدا کردن مشکل اتصال، مدل معمولاً به ساختار تنظیمات و متن خطای پاک‌سازی‌شده نیاز دارد، نه مقدار واقعی رمز. فایل تنظیمات محیطی، سرآیند درخواست و نشانی اتصال پایگاه داده ممکن است اطلاعات ورود داشته باشند. پیش از کپی‌کردن، همه بخش‌ها را بخوانید؛ یک رمز ممکن است داخل نشانی طولانی یا گزارش خطا پنهان باشد.
کد یک‌بارمصرف و کد بازیابی را هم اطلاعات ورود حساب کنید. اگر ابزاری برای «بررسی امنیت حساب» از شما چنین چیزی خواست، ارسال نکنید و از مسیر رسمی همان حساب وضعیت را بررسی کنید. برای سؤال فنی، مقدار را با جای‌نگهدار عوض کنید؛ کوتاه‌کردن چند حرف از یک کلید واقعی روش مناسبی نیست.
مدارک هویتی و اطلاعات بانکی را به نمونه تبدیل کنید
برای نوشتن درخواست اداری لازم نیست تصویر کارت ملی را بفرستید. از مدل بخواهید قالب نامه‌ای با جای خالی نام و مشخصات بسازد و تکمیل نهایی را روی دستگاه خود انجام دهید. همین روش برای درخواست بانکی، رسید پرداخت و اعتراض به تراکنش مناسب است؛ مدل برای اصلاح لحن به شماره واقعی کارت احتیاج ندارد.
اطلاعات جداگانه را هم کنار هم ارزیابی کنید. نام، شماره تماس و رسیدی که هرکدام در پیامی جدا آمده‌اند، در مجموع می‌توانند یک فرد یا تراکنش را مشخص کنند. پوشاندن شماره کارت در یک تصویر کافی نیست اگر همان شماره در نام فایل یا متن پیام قبلی باقی مانده باشد.
اطلاعات مشتری و پرونده پزشکی متعلق به شما نیستند
دسترسی کاری به یک فایل، به معنی مجوز فرستادن آن به هر سرویس بیرونی نیست. برای بازنویسی پاسخ مشتری، مسئله را با عبارت‌هایی مثل «خریدار الف، سفارش محصول ب، تأخیر چندروزه» توضیح دهید. فهرست شمارهها، نشانی‌ها و مکالمه کامل را کنار بگذارید. برای کار سازمانی، ابتدا سیاست مصوب و ابزار مجاز را از مسئول مربوط بپرسید.
درباره سلامت نیز بهتر است یک اصطلاح یا سؤال عمومی را مطرح کنید. برای فهمیدن معنی یک شاخص آزمایش، لازم نیست تصویر کامل برگه با نام، شماره پرونده و بارکد ارسال شود. وقتی جزئیات واقعی برای تصمیم درمانی ضروری است، مسیر مناسب، گفت‌وگو با متخصص در بستر مناسب آن خدمت است؛ ناشناس‌سازی نباید اطلاعات لازم برای مراقبت را از پزشک پنهان کند.
چطور متن را پیش از ارسال ناشناس‌سازی کنیم؟
ناشناس‌سازی فقط پاک‌کردن اسم نیست. ممکن است ترکیب عنوان شغلی خاص، محل کار کوچک، تاریخ دقیق و شرح یک رویداد، شخص را قابل شناسایی کند. گاهی کاری که انجام می‌دهید صرفاً جایگزینی نام با کد است؛ اگر از روی بقیه متن یا یک جدول جدا بتوان فرد را پیدا کرد، هنوز نباید آن را کاملاً ناشناس فرض کنید.
برای کارهای معمول، این مسیر را روی نسخه‌ای محلی از متن اجرا کنید:
۱. هدف را یک جمله بنویسید. مثلاً «می‌خواهم لحن این پاسخ محترمانه‌تر شود». هر داده‌ای که به این هدف کمک نمی‌کند، حذف شود.
۲. شناسه‌های مستقیم را بردارید. نام، شماره تماس، ایمیل، کد ملی، نشانی، شماره حساب، امضا، عکس چهره و شناسه سفارش واقعی را جست‌وجو کنید.
۳. جزئیات غیرمستقیم را کلی‌تر کنید. سن دقیق را به بازه سنی، روز دقیق را به ماه و نام شعبه را به «یکی از شعب» تبدیل کنید، البته فقط وقتی دقت سؤال آسیب نمی‌بیند.
۴. رابطه‌ها را با برچسب ثابت نگه دارید. در تمام متن از «مشتری الف» و «کارشناس ب» استفاده کنید تا مدل نقش افراد را اشتباه نگیرد. جدول تطبیق با نام واقعی را نفرستید.
۵. متن پاک‌شده را دوباره بخوانید. از خود بپرسید یک همکار یا آشنای فرد با دیدن این جزئیات می‌تواند او را بشناسد؟ اگر بله، باز هم داده کم کنید یا نمونه‌ای ساختگی بسازید.
برای یادگیری نوشتن درخواست‌های روشن، اصول پرامپت‌نویسی کمک می‌کند سؤال دقیق بماند، حتی وقتی جزئیات شخصی را حذف کرده‌اید. دقت درخواست را از شرح هدف، محدودیت و قالب خروجی بگیرید، نه از انباشت اطلاعات واقعی.
یک نمونه برای پاسخ‌دادن به مشتری
به‌جای کپی‌کردن مکالمه واقعی با تلفن و شماره سفارش، مسئله را بازسازی کنید. اگر تنها هدف اصلاح لحن است، مبلغ دقیق و محل زندگی مشتری نیز لازم نیست. نمونه زیر همه اطلاعات مورد نیاز برای نوشتن پاسخ را دارد:
برای یک فروشگاه اینترنتی، پاسخ محترمانه‌ای بنویس.
مشتری الف می‌گوید سفارش محصول ب چند روز تأخیر داشته است.
فروشگاه هنوز زمان قطعی تحویل را نمی‌داند.
پاسخ کوتاه باشد، ناراحتی مشتری را به رسمیت بشناسد،
وعده قطعی یا تخفیف نسازد و پیگیری را توضیح دهد.
برای نام، شماره سفارش و زمان پیگیری جای خالی بگذار.پس از گرفتن پاسخ، اطلاعات واقعی را در سامانه کاری خود اضافه کنید. برای چنین کاری می‌توانید از ابزار پاسخ به مشتری استفاده کنید؛ آماده‌بودن ابزار، نیاز به پاک‌سازی ورودی را از بین نمی‌برد. خروجی را هم بخوانید تا مدل نام یا وعده‌ای از خودش اضافه نکرده باشد.
یک نمونه برای تحلیل جدول یا رفع خطا
برای درخواست فرمول یا نمودار، ابتدا چند ردیف ساختگی با همان نام ستون‌ها و نوع داده بسازید. اگر هدف محاسبه نرخ بازگشت است، شماره تماس و نشانی خریدار نقشی ندارد. اگر هدف تحلیل واقعی فروش است، بررسی کنید آیا جمع ماهانه یا گروه‌بندی محصول پاسخ را می‌دهد؛ داده ردیفی را فقط به دلیل در دسترس بودن نفرستید.
این داده‌ها ساختگی‌اند و فقط ساختار مسئله را نشان می‌دهند.
ستون‌ها: ماه، گروه محصول، تعداد سفارش، تعداد مرجوعی.
برای محاسبه نرخ مرجوعی هر گروه، روش و فرمول پیشنهاد بده.
اگر داده کافی نیست، سؤال بپرس و مقدار فرضی را واقعی معرفی نکن.در رفع خطا هم یک نمونه کوچک مستقل بسازید. نام دامنه داخلی، مسیرهای حاوی نام افراد، کوکی‌ها و توکن‌ها را از گزارش حذف کنید. برای راهنمایی برنامه‌نویسی در چت کدنویسی، معمولاً می‌توان مسئله را با قطعه کد محدود و داده آزمایشی توضیح داد.
فایل، عکس و اسکرین‌شات را چطور پاک‌سازی کنیم؟
قبل از پیوست‌کردن، به نام فایل، صفحه‌های دیگر، سربرگ و پاورقی، توضیحات و بخش‌های خارج از مسئله نگاه کنید. در اسکرین‌شات، اعلان پیام، تصویر پروفایل، تب مرورگر و نشانی صفحه ممکن است اطلاعات اضافی نشان دهند. برای پرسش درباره یک خطا، همان کادر خطا را جدا کنید و باز هم محتوایش را بخوانید.
برای حذف اطلاعات از سند، صرفاً یک مستطیل روی نوشته قرار ندهید و فرض نکنید متن زیر آن حذف شده است. از روش حذف واقعی محتوا یا خروجی پاک‌سازی‌شده مناسب قالب استفاده کنید، سپس نسخه خروجی را باز کنید و امکان انتخاب یا جست‌وجوی عبارت حساس را بررسی کنید. اگر درباره نتیجه مطمئن نیستید، بخش لازم را دستی در یک فایل تازه بازنویسی کنید.
در جدول‌ها، شیت‌های دیگر، ستون‌های مخفی و یادداشت‌ها را هم بررسی کنید. در اسناد، تغییرات ثبت‌شده و مشخصات نویسنده ممکن است چیزی فراتر از متن قابل مشاهده داشته باشند. برای استفاده از چت با فایل PDF، یک نسخه محدود و پاک‌شده بسازید؛ خلاصه‌سازی کل پرونده نباید انتخاب پیش‌فرض باشد.
پاک‌سازی را پیش از بارگذاری انجام دهید. فرستادن سند اصلی و سپس درخواست «اول اطلاعات شخصی را حذف کن» به این معنی است که نسخه اصلی را قبلاً ارسال کرده‌اید. همین نکته درباره درخواست از مدل برای بررسی محرمانه‌بودن یک فایل صدق می‌کند؛ ابتدا خودتان محتوا را محلی غربال کنید.
تنظیمات حریم خصوصی هوش مصنوعی را کجا بررسی کنیم؟
برای امنیت چت هوش مصنوعی، صفحه تنظیمات و سیاست حریم خصوصی همان سرویس و همان نوع حساب را بخوانید. این فهرست می‌گوید دنبال چه چیزی بگردید؛ وجود همه گزینه‌ها در همه سرویس‌ها را فرض نکنید. اگر توضیح روشن پیدا نکردید، تا زمان پاسخ معتبر، داده حساس وارد نکنید.
| موضوع | سؤال عملی پیش از استفاده |
|---|---|
| آموزش و بهبود مدل | انتخاب من چیست و دامنه آن کدام گفت‌وگوها و داده‌هاست؟ |
| نگهداری و حذف | پیام، فایل و نسخه‌های پشتیبان چه مدت و با چه استثناهایی نگه داشته می‌شوند؟ |
| حافظه و شخصی‌سازی | چه اطلاعاتی ذخیره شده و چگونه می‌توان آن را بازبینی یا حذف کرد؟ |
| اشتراک‌گذاری | آیا پیوندی ساخته‌ام و چطور دسترسی آن را لغو کنم؟ |
| ابزارها و اتصال‌ها | چه سرویس دیگری داده می‌گیرد و چه مجوزی دارد؟ |
| دسترسی حساب | چه نشست‌ها، دستگاه‌ها و اعضایی به فضای کاری دسترسی دارند؟ |
خاموش‌کردن یک گزینه را معادل پایان همه پردازش‌ها ندانید. آموزش مدل، نگهداری برای ارائه خدمت، بازبینی ایمنی و ارسال داده به ابزار متصل، پرسش‌های جداگانه‌اند. همچنین حذف پیام از نمایش تاریخچه را خودکار معادل حذف فوری از تمام سامانه‌ها فرض نکنید؛ دامنه حذف را از متن سیاست بررسی کنید.
اگر سرویس گزینه گفت‌وگوی موقت دارد، توضیح دقیق همان گزینه را بخوانید: آیا فقط نمایش در تاریخچه را تغییر می‌دهد، چه زمانی حذف می‌کند و چه استثناهایی دارد؟ اگر امکان فعال‌کردن تأیید دومرحله‌ای وجود دارد، آن را بررسی کنید؛ روی دستگاه مشترک هم نشست خود را باز نگذارید.
دو نمونه رسمی از تفاوت سیاست‌ها
در بررسی اکتبر ۲۰۲۶ / آبان ۱۴۰۵، راهنمای رسمی Google برای Gemini Apps توضیح می‌دهد که بازبین‌های انسانی بخشی از داده‌های جمع‌آوری‌شده را بررسی می‌کنند و هشدار می‌دهد اطلاعات محرمانه‌ای را که نمی‌خواهید بازبین ببیند یا برای بهبود خدمات استفاده شود، وارد نکنید. برای جزئیات کنترلهای فعالیت و نگهداری، مرکز حریم خصوصی Gemini Apps را برای همان کاربرد بخوانید.
در همین بررسی، سند رسمی Anthropic درباره محصولات مصرفی Claude، اجازه کاربر برای بهبود مدل، موارد علامت‌گذاری‌شده برای بررسی ایمنی و مشارکت صریح در آموزش را از شرایط استفاده از گفت‌وگوها معرفی می‌کند. این سند همچنین توضیح می‌دهد بازخورد ممکن است گفت‌وگوی مرتبط را دربر بگیرد. توضیح رسمی استفاده از داده در Claude نشان می‌دهد چرا باید استثناها را هم خواند.
این مثال‌ها مجوز نتیجه‌گیری درباره همه حساب‌ها، APIها یا واسطه‌ها نیستند. سیاست یک محصول مصرفی را به محیط سازمانی یا پلتفرمی که مدل را ارائه می‌دهد تعمیم ندهید. تاریخ این بررسی نیز تضمین ثابت‌ماندن تنظیمات نیست؛ قبل از ورود داده کاری، نسخه فعلی سند را دوباره ببینید.
در 1ai چطور با داده کمتر کار کنیم؟
در چت فارسی هوش مصنوعی می‌توانید سؤال را فارسی و با جای‌نگهدار مطرح کنید، پاسخ را بگیرید و مشخصات واقعی را بعداً محلی اضافه کنید. وجود تاریخچه، حافظه، پیوست و اشتراک‌گذاری با پیوند، دلیل خوبی است که پیش از هر بار ارسال، هم ورودی و هم مقصد احتمالی خروجی را بررسی کنید.
اگر از چند مدل استفاده می‌کنید، متن حساس را برای مقایسه پاسخ‌ها میان آن‌ها پخش نکنید. اول یک نمونه ساختگی مشترک بسازید و همان را مبنای مقایسه قرار دهید. برای جزئیات بیشتر، راهنمای حریم خصوصی و امنیت داده و سوالات متداول را بخوانید؛ درباره موضوعی که پاسخ مستند ندارد، از پشتیبانی سؤال مشخص بپرسید.
یک روش ساده برای حفظ این عادت، نگه‌داشتن قالب‌های پاک‌شده است. قالب نامه، پاسخ مشتری یا درخواست تحلیل را با جای خالی ذخیره کنید و هر بار فقط توضیح مسئله را تغییر دهید. پیش از ساختن پیوند اشتراک نیز خروجی را مرور کنید؛ ممکن است متن نهایی هنوز بخشی از اطلاعات ورودی را نقل کرده باشد.
اگر اشتباهی اطلاعات حساس فرستادیم چه کنیم؟
ابتدا ارسال بیشتر را متوقف کنید و نوع داده را مشخص کنید. اگر رمز یا کلید دسترسی بوده، از تنظیمات رسمی سرویس صادرکننده آن را تعویض یا باطل کنید و نشست‌های فعال را بررسی کنید. پاک‌کردن پیام، کلید افشاشده را بی‌اعتبار نمی‌کند. اگر اطلاعات بانکی در معرض خطر قرار گرفته، از مسیر رسمی بانک برای اقدام مناسب کمک بگیرید.
اگر پیوند اشتراک ساخته‌اید، امکان لغو آن را بررسی کنید. سپس امکانات حذف پیام، فایل و حافظه مرتبط را مطابق راهنمای سرویس دنبال کنید. در درخواست پشتیبانی، مشکل را توصیف کنید و دوباره همان اطلاعات حساس را نفرستید؛ برای پیدا کردن مکالمه از شناسه یا روش امن پیشنهادی پشتیبانی استفاده کنید.
برای داده مشتری یا همکار، موضوع را از مسیر داخلی تعیین‌شده به مسئول مربوط اطلاع دهید. زمان، نوع داده و اقدام انجام‌شده را ثبت کنید، بدون اینکه برای مستندسازی نسخه‌های بیشتری از داده منتشر کنید. امنیت هوش مصنوعی در محیط کار به واکنش روشن و سریع هم وابسته است، نه فقط پیشگیری.
سوالات متداول
آیا میتوانم کد ملی یا عکس کارت بانکی را برای تکمیل فرم بفرستم؟
بهتر است قالب فرم را با جای خالی بسازید و مشخصات واقعی را روی دستگاه خود تکمیل کنید. برای توضیح یک فیلد یا اصلاح متن، معمولاً نیازی به مدرک واقعی نیست.
آیا حذف نام برای ناشناسکردن پرونده کافی است؟
خیر؛ شمارهها، تاریخ دقیق، محل، تصویر و ترکیب جزئیات خاص هم ممکن است فرد را مشخص کنند. اگر اطلاعات قابل انتساب باقی میماند، از مثال ساختگی یا سؤال عمومی استفاده کنید.
آیا خاموش‌کردن گزینه آموزش یعنی می‌توان هر اطلاعاتی فرستاد؟
خیر؛ نگهداری، بازبینی، دسترسی حساب و انتقال به ابزارهای متصل را جدا بررسی کنید. حتی با تنظیمات محدودتر، فقط داده لازم و مجاز را ارسال کنید.
آیا میتوانم از خود مدل بخواهم اطلاعاتم را فراموش کند؟
درخواست متنی، جای کنترلهای حساب و سازوکار رسمی حذف را نمیگیرد. برای حافظه، تاریخچه، فایل و پیوند اشتراک، راهنمای همان سرویس را جداگانه بررسی کنید.
سریع‌ترین راه بررسی امنیت چت هوش مصنوعی چیست؟
قبل از ارسال بپرسید: آیا این داده لازم است، آیا اجازه اشتراک دارم و آیا میتوانم آن را ساختگی یا کلی کنم؟ سپس متن، فایل و مقصد اشتراک را یک بار دیگر بررسی کنید.
برای تمرین، یک نامه یا سؤال کاملاً ساختگی در 1ai بنویسید و از مدل بخواهید آن را بهتر کند؛ از همان اولین گفت‌وگو، عادت ارسال حداقل داده را بسازید.
