هوش مصنوعی دیپ‌سیک و بحران جهانی حریم خصوصی

به گزارش داتکام نیوز، شهرت ناگهانی دیپ‌سیک موجی از نگرانی‌های جهانی درباره داده‌ها را برانگیخته است و باعث شده است که قانون‌گذاران و کارشناسان حریم خصوصی نسبت به خطرات بالقوه امنیت ملی این اپلیکیشن چینی هشدار دهند. ایتالیا، سومین اقتصاد بزرگ اتحادیه اروپا، اولین گام را برداشته و پس از آنکه مقامات این کشور خواستار ارائه جزئیات درباره شیوه‌های مدیریت داده‌های این اپلیکیشن شدند، دیپ‌سیک را ممنوع کرده است. نهاد ناظر بر حریم خصوصی ایتالیا اقدامات حفاظتی داده‌های این استارتاپ چینی را «ناکافی» توصیف کرده است.

بررسی‌ها تنها به اتحادیه اروپا محدود نمی‌شود. تنظیم‌کنندگان مقررات در کره جنوبی نیز قصد دارند همان پاسخ‌هایی را که ایتالیا خواستار آن بود، مطالبه کنند، در حالی که جیم چالمرز، وزیر خزانه‌داری استرالیا، به ساکنان این کشور هشدار داده است که هنگام استفاده از این اپلیکیشن احتیاط کنند. جنجال پیرامون مسائل حریم خصوصی دیپ‌سیک دقیقاً در بحبوحه فشارهای فزاینده قانون‌گذاران بر شرکت‌های فناوری چینی قرار دارد.

ایالات متحده قبلاً تیک‌تاک را به بهانه امنیت ملی ممنوع کرده بود، و دونالد ترامپ، یک فرمان اجرایی صادر کرد که به‌طور موقت خدمات این شبکه اجتماعی را احیا کرد. کوین‌تلگراف از دیپ‌سیک خواست تا درباره نحوه پردازش داده‌های کاربران شفاف‌سازی کند، اما پاسخی دریافت نکرد. در همین حال، به نظر می‌رسد دیپ‌سیک در حال تلاش برای رفع نقص‌های امنیتی در لحظه است. محققان شرکت امنیت ابری Wiz می‌گویند که یک آسیب‌پذیری را کشف کرده‌اند که امکان دسترسی به داده‌های داخلی، از جمله اطلاعات حساسی مانند تاریخچه چت‌ها و کلیدهای API را فراهم می‌کند. این نقص بلافاصله گزارش شد و به گفته Wiz، «سریعاً برطرف شد».

دیپ‌سیک یا جاسوس؟

ایالات متحده و چین در جبهه‌های متعددی، از جمله بر سر برتری در حوزه هوش مصنوعی، درگیر رقابتی شدید هستند. تا همین اواخر، تصور می‌شد که چین حداقل شش ماه از ایالات متحده در توسعه هوش مصنوعی عقب‌تر است، اما صعود ناگهانی به صدر اپ استور اپل این فرضیه را به چالش کشیده است. اکنون، این اپلیکیشن با همان نگرانی‌های حریم خصوصی مواجه شده است که قبلاً تیک‌تاک و شرکت مادر آن، بایت‌دنس، را گرفتار کرده بود.

تحلیلی که توسط شرکت امنیتی پریوادو انجام شده نشان می‌دهد که دیپ‌سیک داده‌های حساس کاربران، از جمله شناسه‌های منحصربه‌فرد، جزئیات دستگاه، موقعیت مکانی، زبان، درخواست‌ها و تاریخچه چت‌ها را جمع‌آوری و با بایت‌دنس به اشتراک می‌گذارد. همچنین مشخص شده است که این اطلاعات با غول فناوری آمریکایی، گوگل، نیز به اشتراک گذاشته می‌شود.

علاوه بر این، دیپ‌سیک از کیت‌های توسعه نرم‌افزار (SDK) شرکت‌های بایت‌دنس، غول فناوری چینی تن‌سنت و گوگل استفاده می‌کند. پریوادو به تفاوت بین میزان داده‌های جمع‌آوری‌شده و آنچه که در سیاست حفظ حریم خصوصی این اپلیکیشن ذکر شده، اشاره کرده است (به طوری که اپلیکیشن داده‌های کمتری نسبت به آنچه اعلام کرده جمع‌آوری می‌کند) اما هشدار داده که «با این حال، جریان‌های داده‌ای آشکاری به چین وجود دارد».

شان اوبراین، بنیان‌گذار ییل پرایوسی لب (Yale Privacy Lab)، در یک پست رسانه‌ای اعلام کرد که دیپ‌سیک اطلاعات اولیه شبکه و پروفایل دستگاه را به بایت‌دنس و واسطه‌های دیگر ارسال می‌کند، اما خطرات مربوط به مجوزهای این اپلیکیشن را کم‌اهمیت جلوه داد. اوبراین افزود: «برای روشن شدن موضوع، اپلیکیشن‌هایی مانند دیپ‌سیک و ChatGPT برای حفظ حریم خصوصی مناسب نیستند. اما مدل شما به بستری که در آن از این اپلیکیشن استفاده می‌کنید بستگی دارد. تقریباً همه اپلیکیشن‌های رایج از نظر حریم خصوصی ضعیف هستند».

چگونه داده‌های دیپ‌سیک می‌توانند در دسترس چین قرار بگیرند

در مارس ۲۰۲۳، شو زی چو، مدیرعامل تیک‌تاک، در مقابل کنگره ایالات متحده شهادت داد و به نگرانی‌ها درباره شیوه‌های حفظ حریم خصوصی داده‌های این پلتفرم و ارتباط آن با دولت چین پاسخ داد. در این جلسه، قانون‌گذاران از این مدیر اجرایی سنگاپوری درباره نفوذ احتمالی چین بر این پلتفرم و امنیت داده‌های کاربران آمریکایی سؤال کردند. آرون بروگان، بنیان‌گذار موسسه حقوقی بروگان، به کوین‌تلگراف گفت: «اگر دیپ‌سیک به اندازه تیک‌تاک فراگیر شود، تقریباً همان نگرانی‌های امنیت ملی را به همراه خواهد داشت. سابقه‌ای نسبتاً طولانی از ممنوعیت فناوری‌ها و رسانه‌های کشورهای رقیب توسط دولت آمریکا وجود دارد و فکر می‌کنم DeepSeek در میان‌مدت به‌طور بالقوه یکی از نامزدهای این اقدام خواهد بود».

با این حال، قوانین چین نشان می‌دهد که دولت این کشور تحت شرایطی مشخص، به داده‌های کاربران دسترسی دارد:

ماده ۳۷ قانون امنیت سایبری چین الزام می‌کند که تمام داده‌های شخصی جمع‌آوری‌شده توسط شرکت‌های چینی باید در داخل سرزمین اصلی چین ذخیره شوند. ماده ۷ قانون اطلاعات ملی تمامی شهروندان و سازمان‌ها را موظف به حمایت، همکاری و کمک به تلاش‌های اطلاعاتی ملی می‌کند. ماده ۳۵ قانون حفاظت از اطلاعات شخصی (PIPL) تصریح می‌کند که دولت اختیار پردازش داده‌های شخصی را دارد، اما نهادهای دولتی موظفند در صورت عدم اختلال در وظایف قانونی خود، کاربران را مطلع کنند. ماده ۱۳ قانون PIPL اجازه می‌دهد که داده‌های شخصی بدون رضایت افراد، در شرایطی خاص، از جمله در راستای منافع امنیت ملی، پردازش شوند.

این مقررات عملاً مسیر قانونی را برای دولت چین فراهم می‌کنند تا تحت پوشش امنیت ملی یا تطابق با مقررات، به داده‌های کاربران دسترسی داشته باشد. در یک کنفرانس مطبوعاتی اخیر، مائو نینگ، سخنگوی وزارت خارجه چین، ادعای اینکه دولت شرکت‌ها را مجبور به جمع‌آوری و ارائه غیرقانونی داده‌ها می‌کند، رد کرد و در پاسخ به سؤالات خبرنگاران خارجی گفت: «ما معتقدیم که شرکت‌های اینترنتی باید قوانین و مقررات محلی را رعایت کنند. دولت چین اهمیت زیادی به حفظ حریم خصوصی و امنیت داده‌ها می‌دهد و مطابق قانون از آن‌ها محافظت می‌کند. دولت چین هرگز از هیچ شرکتی یا فردی نخواسته و نخواهد خواست که داده‌های مستقر در خارج از کشور را برخلاف قوانین محلی جمع‌آوری یا ارائه کند».

دیپ‌سیک و اتکای بیش‌ازحد به هوش مصنوعی می‌توانند به انتشار اطلاعات نادرست منجر شوند

نهاد نظارتی رسانه‌ای نیوزگارد عملکرد چت‌بات دیپ‌سیک را بررسی کرد و دریافت که این چت‌بات در ۸۳٪ از مواردی که درباره موضوعات خبری از آن سؤال شده، پاسخ‌های نادرست ارائه داده یا اصلاً پاسخی نداده است. حتی زمانی که با ادعاهای آشکاراً غلط روبه‌رو شد، تنها در ۱۷٪ از موارد موفق شد آن‌ها را رد کند. این عملکرد ضعیف باعث شده است که مدل R1 دیپ‌سیک در میان ۱۱ چت‌بات هوش مصنوعی که توسط نیوزگارد آزمایش شده‌اند، در رتبه دهم قرار گیرد. در ایالات متحده، وزارت امنیت داخلی و اف‌بی‌آی، اطلاعات نادرست را به‌عنوان یک تهدید برای امنیت ملی طبقه‌بندی کرده‌اند. اتحادیه اروپا نیز اطلاعات نادرست را یک تهدید دانسته و رسانه‌ها و کمپین‌های اجتماعی تحت حمایت روسیه را به‌عنوان منابع اصلی این دخالت‌ها معرفی کرده است.

یک نمونه برجسته: تأثیر اطلاعات نادرست در انتخابات ریاست‌جمهوری رومانی

یکی از موارد قابل‌توجه اخیر در رومانی رخ داد، جایی که اطلاعات نادرست ظاهراً پیامدهای مستقیمی بر انتخابات ریاست‌جمهوری ۲۰۲۴ داشت. صعود ناگهانی کالین جورجسکو، نامزد راست افراطی، با یک کمپین هماهنگ اطلاعات نادرست در TikTok مرتبط بود که ادعا می‌شود توسط بازیگران خارجی برای دستکاری افکار عمومی سازماندهی شده بود. تحقیقات نشان داد که کمپین جورجسکو شباهت‌های قابل‌توجهی با عملیات نفوذ تحت حمایت روسیه در کشورهای همسایه دارد. در نتیجه این بحران، دادگاه قانون اساسی رومانی دور اول انتخابات را باطل اعلام کرد و دخالت خارجی و اطلاعات نادرست را به‌عنوان تهدیدهای مستقیم علیه یکپارچگی انتخابات معرفی کرد.

تردیدها درباره مشروعیت موفقیت دیپ‌سیک

صعود برق‌آسای دیپ‌سیک، موجی از شوک را در وال‌استریت ایجاد کرده و وابستگی صنعت هوش مصنوعی به غول تراشه‌سازی آمریکایی انویدیا را به چالش کشیده است. این استارتاپ چینی ادعا می‌کند که مدل هوش مصنوعی خود را با هزینه‌ای بسیار کمتر و با استفاده از تراشه‌های کم‌بازده‌تر توسعه داده است، که کاملاً برخلاف رویکرد پردازشی پرقدرت و انویدیا‌محور شرکت‌های آمریکایی مانند متا و OpenAI است.

محدودیت‌های صادراتی ایالات متحده، مانع از دسترسی چین به بهترین تراشه‌های انویدیا شده است، بنابراین شرکت‌های چینی مجبورند از نسخه‌های ضعیف‌تر نسبت به آنچه شرکت‌های آمریکایی استفاده می‌کنند، بهره ببرند. بااین‌حال، برخی تحلیلگران نسبت به ادعاهای دیپ‌سیک تردید دارند و می‌پرسند که چگونه این شرکت توانسته با تنها ۵.۵ میلیون دلار سرمایه اولیه برای آموزش مدل خود، که بخش کوچکی از بودجه آزمایشگاه‌های هوش مصنوعی غربی است، به چنین پیشرفتی برسد.

گزارش‌ها حاکی از آن است که ایالات متحده تحقیقات رسمی را درباره احتمال دسترسی غیرمجاز دیپ‌سیک به تراشه‌های پیشرفته انویدیا آغاز کرده است. در همین حال، مایکروسافت و OpenAI تحقیقاتی را برای بررسی احتمال سوءاستفاده دیپ‌سیک از داده‌های اختصاصی OpenAI آغاز کرده‌اند. این تحقیقات حول این گمانه‌زنی متمرکز است که یک گروه مرتبط با دیپ‌سیک ممکن است بدون مجوز، حجم بالایی از داده‌های OpenAI را از طریق API این شرکت استخراج کرده باشد.

منبع : کوین‌تلگراف