|
|
|
هشدار مهندس گوگل/ اين اطلاعات را هرگز به هوش مصنوعي ندهيد |
|
|
|
در شرايطي که ابزارهاي هوش مصنوعي با سرعتي چشمگير در حال نفوذ به جنبههاي مختلف زندگي روزمره، از برنامهنويسي گرفته تا يادداشتبرداري و مديريت کارها هستند، دغدغه حفظ حريم خصوصي کاربران بيش از گذشته اهميت پيدا کرده است. يکي از مهندسان امنيت گوگل با هشدار نسبت به تهديدهايي مانند نشت اطلاعات و سوءاستفاده مجرمان سايبري، چهار عادت کليدي را براي صيانت از دادههاي شخصي هنگام استفاده از ابزارهاي مبتني بر هوش مصنوعي پيشنهاد کرده است. |
|
|
هرش وارشني، مهندس شاغل در بخش امنيت هوش مصنوعي کروم در گوگل، تاکيد ميکند که ابزارهاي هوش مصنوعي به سرعت به يک شريک خاموش در زندگي روزمره ما تبديل شدهاند و براي کارهايي چون تحقيق عميق، کدنويسي و جستجوهاي آنلاين بسيار مفيد هستند. اما به دليل ماهيت شغلياش در تيم امنيت، او نسبت به نگرانيهاي حريم خصوصي مرتبط با استفاده از هوش مصنوعي کاملاً آگاه است.
او که پيش از اين در تيم حفظ حريم خصوصي گوگل کار ميکرده، هشدار ميدهد که مدلهاي هوش مصنوعي براي توليد پاسخهاي مفيد از دادهها استفاده ميکنند و کاربران بايد از اطلاعات خصوصي خود محافظت کنند تا نهادهاي مخرب مانند مجرمان سايبري و کارگزاران داده نتوانند به آنها دسترسي پيدا کنند. در اين راستا، اين متخصص امنيت چهار عادت را معرفي ميکند که براي محافظت از دادهها در حين استفاده از هوش مصنوعي ضروري هستند:
?. با هوش مصنوعي مانند يک کارت پستال عمومي رفتار کنيد
گاهي اوقات، يک حس نادرست از صميميت با هوش مصنوعي باعث ميشود افراد اطلاعاتي را به صورت آنلاين به اشتراک بگذارند که هرگز در حالت عادي اين کار را نميکردند. اگرچه شرکتهاي هوش مصنوعي داراي کارمنداني هستند که براي بهبود جنبههاي حريم خصوصي مدلهايشان تلاش ميکنند، اما به هيچ وجه توصيه نميشود جزئياتي مانند اطلاعات کارت اعتباري، شمارههاي شناسايي، آدرس منزل، سوابق پزشکي شخصي يا ساير اطلاعات هويتي (Personally Identifiable Information - PII) را با چتباتهاي عمومي به اشتراک بگذاريد.
بسته به نسخهاي که استفاده ميشود، اطلاعاتي که با چتباتهاي عمومي به اشتراک گذاشته ميشود، ميتواند براي آموزش مدلهاي آتي و توليد پاسخهاي مرتبطتر مورد استفاده قرار گيرد. اين موضوع ميتواند منجر به "نشت آموزشي" (Training Leakage) شود، جايي که مدل، اطلاعات شخصي يک کاربر را حفظ ميکند و بعداً آن را در پاسخ به کاربر ديگري بازگو ميکند. علاوه بر اين، خطر نقض دادهها وجود دارد که ميتواند اطلاعات به اشتراک گذاشته شده با چتبات را فاش کند.
به گفته وارشني، کاربران بايد با چتباتهاي هوش مصنوعي مانند يک کارت پستال عمومي رفتار کنند. اگر فردي حاضر نيست اطلاعاتي را روي يک کارت پستال بنويسد که ممکن است توسط هر کسي ديده شود، نبايد آن را با يک ابزار عمومي هوش مصنوعي به اشتراک بگذارد.
?. بدانيد کجا هستيد
تشخيص اينکه از يک ابزار هوش مصنوعي عمومي استفاده ميکنيد يا يک ابزار در سطح سازماني (Enterprise-grade)، بسيار مهم است. در حالي که مشخص نيست مکالمات چگونه براي آموزش مدلهاي عمومي استفاده ميشوند، شرکتها ميتوانند براي مدلهاي «سازماني» هزينه پرداخت کنند. در اين مدلها، معمولاً مکالمات کاربران براي آموزش استفاده نميشود و بنابراين براي کارمندان امنتر است که در مورد کارهاي خود و پروژههاي شرکت صحبت کنند.
خبرآنلاين
انتهاي پيام/ن |