Restartid.com – Di tengah meningkatnya kekhawatiran tentang penyalahgunaan kecerdasan buatan (AI), sejumlah raksasa teknologi—Google, OpenAI, Roblox, dan Discord—mengumumkan pembentukan Robust Open Online Safety Tools (ROOST). Inisiatif nonprofit ini bertujuan untuk meningkatkan keamanan anak-anak di dunia digital dengan menyediakan alat AI open-source yang dapat membantu mendeteksi, meninjau, dan melaporkan konten eksploitasi anak, termasuk Child Sexual Abuse Material (CSAM).
Aliansi ini diumumkan dalam AI Action Summit di Paris, menandai langkah besar dalam upaya global untuk menghadapi tantangan keamanan online yang semakin kompleks.
Mengapa ROOST Dibentuk?
Eksploitasi anak di dunia digital semakin meningkat, terutama dengan berkembangnya AI yang memungkinkan pembuatan dan penyebaran konten ilegal secara lebih mudah. National Center for Missing & Exploited Children (NCMEC) melaporkan lonjakan 12% kasus eksploitasi anak secara online pada 2023, dengan lebih dari 36,2 juta laporan di Amerika Serikat.
Tekanan terhadap perusahaan teknologi untuk bertindak lebih tegas dalam melindungi anak-anak pun semakin besar. Dalam empat tahun ke depan, ROOST akan beroperasi dengan pendanaan awal senilai $27 juta untuk membangun sistem keamanan yang lebih baik di dunia digital.
Bagaimana ROOST Akan Bekerja?
ROOST akan berbasis di Institute of Global Politics, Columbia University, dan melibatkan para ahli AI, keamanan siber, serta perlindungan anak. Berikut beberapa langkah yang akan dilakukan:
✅ Penggunaan Large Language Models (LLMs) untuk meningkatkan deteksi konten berbahaya.
✅ Penyediaan dataset AI yang telah diverifikasi guna meningkatkan keakuratan sistem moderasi konten.
✅ Pengembangan teknologi moderasi AI berbasis API, yang dapat langsung diintegrasikan oleh berbagai platform digital.
Menariknya, ROOST juga akan mengadopsi teknologi dari perusahaan pendukungnya, seperti:
📌 Lantern (Discord) – Sistem berbasis AI untuk berbagi informasi lintas platform dalam mendeteksi konten berbahaya.
📌 Moderasi AI Roblox – Teknologi yang mampu mendeteksi ucapan tidak pantas dalam rekaman audio, yang kemungkinan besar akan diadaptasi dalam sistem ROOST.
Namun, hingga saat ini masih belum jelas bagaimana alat AI ROOST akan berintegrasi dengan sistem deteksi CSAM yang sudah ada, seperti PhotoDNA dari Microsoft.
Upaya Global dalam Melindungi Anak dari Eksploitasi Digital
Perlindungan anak dalam dunia digital kini semakin diperketat secara global. Beberapa negara sudah mulai mengambil langkah konkret, seperti Australia yang melarang anak di bawah 16 tahun memiliki media sosial.
Selain didukung oleh Google, OpenAI, Roblox, dan Discord, ROOST juga mendapatkan dukungan dari beberapa organisasi filantropi besar, seperti Patrick J. McGovern Foundation, Knight Foundation, dan AI Collaborative.
ROOST: Masa Depan Keamanan Digital yang Lebih Baik?
Dengan model open-source, ROOST tidak hanya membantu perusahaan teknologi besar, tetapi juga memungkinkan startup dan perusahaan kecil untuk menggunakan sistem keamanan AI tanpa terbebani biaya tinggi.
Aliansi ini menjadi langkah penting dalam mencegah eksploitasi anak di era AI, namun tantangan masih ada—terutama dalam hal regulasi, integrasi teknologi, serta efektivitas sistem dalam mendeteksi dan mencegah penyalahgunaan AI.
Mampukah ROOST menjadi solusi keamanan digital yang benar-benar efektif? Kita nantikan perkembangannya! 🚀
