هوش مصنوعی و تکامل سیستم‌های نظارتی

در این مصاحبه Help Net Security، Gerwin van der Lugt، CTO در Oddity، در مورد آینده نظارت و نفوذ هوش مصنوعی صحبت می‌کند. او همچنین به این می‌پردازد که چگونه سازمان‌ها می‌توانند از تداوم تعصبات یا نقض حقوق فردی سیستم‌های خود جلوگیری کنند.

آینده نظارتی

Oddity یک شرکت نسبتاً جوان است و ما از همان ابتدا توانسته‌ایم نرم افزارهای حفظ حریم خصوصی و اخلاقی را در نظر بگیریم. ما اصول “حریم خصوصی با طراحی” را تمرین می‌کنیم. برای مثال، نرم‌افزار ما اصلاً داده‌های ویدیویی را در تنظیمات پیش‌فرض خود ذخیره نمی‌کند، زیرا سیستم‌های مدیریت ویدیوی موجود قبلاً این عملکرد را دارند.

علاوه بر این، ما از داده‌های مشتری برای اهداف آموزشی استفاده نمی‌کنیم. در بیشتر موارد، تاسیسات ما به اینترنت متصل نیستند و برای تعمیر و نگهداری و عیب‌یابی نیاز به دسترسی فیزیکی داریم. ما معتقدیم که با وجود این ناراحتی‌ها، هنوز هم ارزشش را دارد. به خصوص وقتی صحبت از مناطق حساس ، جایی که افراد تحت نظر کنترل کمی بر حریم خصوصی خود دارند. در پایان، نرم افزار ما برای کمک به مردم و محافظت از آنها است و هدف ما این است که این کار را با کمترین تأثیر ممکن بر حریم خصوصی انجام دهیم.

یکپارچه‌سازهای سیستم و شرکت‌ها هنگام اطمینان از کیفیت بالای راه‌حل‌های نظارتی خود با چه چالش‌هایی مواجه هستند؟

استقرار موفقیت آمیز نظارت دوربین نیازمند تعامل ظریف بین دوربین‌های امنیتی، حسگرها و سایر سخت افزارها، سیستم مدیریت ویدئو و خود شبکه است. بزرگترین چالش ایجاد زیرساخت شبکه‌ای است که بتواند از نیازهای روزافزون پهنای باند دوربین‌های مدرن پشتیبانی کند.

تاسیسات نظارتی به مرور زمان رشد می‌کنند و با افزایش تعداد دوربین‌ها، به محدودیت پهنای باند شبکه می‌رسد. تعویض دوربین معیوب یک کار تعمیر و نگهداری آسان است زیرا تنها یک دوربین را تحت تاثیر قرار می‌دهد. جایگزینی زیرساخت شبکه برای دو یا سه برابر کردن پهنای باند بسیار سخت تر است و نیاز به بررسی و تعویض سخت افزار شبکه در طول نصب دارد.

ما اغلب می‌بینیم که یکپارچه‌سازها سعی می‌کنند با کاهش نرخ فریم یا تنظیمات بیت‌تریت دوربین‌ها برای کاهش پهنای باند مورد نیازشان، این مشکل را حل کنند.

اگرچه در ابتدا راه حلی قابل اجرا به نظر می‌رسد، اما برای نظارت مبتنی بر هوش مصنوعی، می‌تواند مشکل ایجاد کند. مدل‌های یادگیری ماشینی به تفاوت‌های بصری جزئی حساس هستند که چشم انسان به سختی می‌تواند آنها را تشخیص دهد. به خصوص اگر الگوریتم روی ورودی با کیفیت بالا آموزش داده شده باشد، ممکن است با جریان‌های ویدیویی با کیفیت پایین مشکل داشته باشد.

به این ترتیب، هنگام ساخت یک زیرساخت شبکه نظارتی از ابتدا، ایده خوبی است که از قبل برنامه‌ریزی کنید و آن را با فضای زیادی در ظرفیت پهنای باند برای رشد بسازید. این باعث صرفه‌جویی در هزینه‌ها در دراز مدت می‌شود و تضمین می‌کند که نصب برای آینده مبتنی بر هوش مصنوعی آماده است!

چه توصیه‌ای به سازمان بزرگی که می‌خواهد یک سیستم نظارتی قدیمی را مدرن کند، می‌کنید؟

از نظر سخت افزار فیزیکی، مطابق با توصیه من در بالا، رزرو پهنای باند کافی یک عامل بسیار مهم است.

مهمتر از آن، آینده نظارت، هوش مصنوعی است و سازمان‌ها باید سیستم نظارتی خود را با در نظر گرفتن هوش مصنوعی طراحی کنند. در جایی که یک مرکز نظارت دوربین معمولی ممکن است هنوز افرادی را داشته باشد که با فیدهای ویدیویی به دیوارهای صفحه‌های ماتریسی نگاه می‌کنند، ممکن است به زودی در صورت وقوع حادثه به آنها هشدار داده شود. با همین تعداد پرسنل بسیار موثرتر خواهند بود.

اولین قدم تعیین انواع حوادثی است که بیشتر به آنها علاقه دارید. راه‌حل‌های هوش مصنوعی برای بسیاری از انواع حوادث وجود دارد. مهم است که هوش مصنوعی را از ابتدا در نظر بگیرید و فروشندگان هوش مصنوعی را در اسرع وقت درگیر کنید. از سال ۲۰۲۳، هوش مصنوعی هنوز برای جایگزینی کامل انسان‌ها آماده نیست. سازمان‌ها عاقلانه خواهند بود که یک استقرار ترکیبی با انسان در حلقه راه‌اندازی کنند، در حالی که همچنان شکاف‌ها را نظارت و پر می‌کنند.

نقش هوش مصنوعی در نظارت موضوعی داغ برای بحث است. چگونه یک سازمان می‌تواند اطمینان حاصل کند که سیستم‌هایش تعصبات را تداوم نمی‌بخشد یا حقوق فردی را نقض نمی‌کند؟

مدل‌های هوش مصنوعی تحت تأثیر مجموعه داده‌های مورد استفاده برای آموزش قرار می‌گیرند. ضروری است که فروشندگان هوش مصنوعی مجموعه داده‌های خود را با دقت تنظیم و متعادل کنند تا از بروز سوگیری‌ها جلوگیری شود. متوازن کردن مجموعه‌های داده یک فرآیند دستی است که مستلزم اطمینان از این است که انسان‌های قابل مشاهده در مجموعه داده‌ها بازنمایی خوبی از واقعیت هستند و نسبت به ویژگی‌های انسانی خاص تعصب ندارند. در مورد ما، ما از گروه‌های متنوعی از بازیگران، از سراسر جهان، برای اجرای خشونت برای مجموعه داده‌های آموزشی خود استفاده می‌کنیم تا اطمینان حاصل کنیم که آنها متعادل هستند. علاوه بر این، آزمایش منظم برای چنین سوگیری‌ها می‌تواند راه درازی داشته باشد.

یک سیستم با دقت طراحی شده می‌تواند از افراد محافظت کرده و بدون تأثیر قابل توجهی بر حریم خصوصی آنها کمک کند. این امر مستلزم در نظر گرفتن حریم خصوصی از طراحی تا اجرای سیستم‌های هوش مصنوعی است. من معتقدم که آینده نظارت مبتنی بر هوش مصنوعی شاهد کاهش نقض حریم خصوصی خواهد بود.

در حال حاضر، تأسیسات نظارتی بزرگ همچنان به انسان نیاز دارد که همیشه به جریان دوربین نگاه کند. در یک گردش کار مبتنی بر ماشه، که در آن انسان‌ها پس از هشدار هوش مصنوعی اقداماتی را انجام می‌دهند، میزان فیلم‌برداری دوربین‌های امنیتی توسط انسان‌ها بسیار کمتر است و بنابراین خطر نقض حریم خصوصی کاهش می‌یابد.

آینده نظارت تصویری تقویت شده با هوش مصنوعی را در ۵ تا ۱۰ سال آینده چگونه تصور می‌کنید؟

من متقاعد شده‌ام که مرکز نظارت دوربین کلاسیکی که اکنون وجود دارد، با تعداد زیادی کارمند و دیوارهای ویدئویی، به تدریج از بین خواهد رفت. درعوض، سیستم‌های هوش مصنوعی در صورت وقوع حوادث به پرسنل امنیتی مربوطه هشدار می‌دهند. نرخ تشخیص حوادث به ۸۰٪ یا حتی بیشتر (از ۵٪ به ۲۵٪) افزایش می‌یابد و اولین پاسخ دهندگان و کارکنان امنیتی این اختیار را خواهند داشت که بیشتر کمک کنند و زمان با ارزش خود را کمتر برای تماشای فیلم های ویدئویی صرف کنند.