OpenAI Tambahkan Lockdown Mode demi Lindungi Data Sensitif di ChatGPT
OpenAI memperkenalkan fitur baru bernama Lockdown Mode untuk ChatGPT. Fitur ini dirancang untuk mengurangi risiko kebocoran data sensitif akibat serangan prompt injection, salah satu ancaman keamanan yang semakin menjadi perhatian dalam penggunaan AI generatif.
Prompt injection merupakan teknik yang digunakan untuk menyisipkan instruksi tersembunyi ke dalam halaman web, dokumen, atau sumber data lain yang dibaca oleh AI. Instruksi tersebut dapat memengaruhi perilaku model dan berpotensi membuatnya mengungkap informasi yang seharusnya tidak dibagikan.
Batasi Fitur yang Berisiko
Saat Lockdown Mode diaktifkan, sejumlah kemampuan ChatGPT akan dibatasi untuk mengurangi permukaan serangan.
Fitur penelusuran web langsung dinonaktifkan sehingga model hanya dapat mengakses konten yang telah disimpan dalam cache. Selain itu, ChatGPT tidak akan mengambil atau menampilkan gambar dari internet, meskipun pengguna tetap dapat membuat gambar menggunakan alat generatif yang tersedia.
OpenAI juga menonaktifkan fitur Deep Research dan mode agen karena keduanya memiliki akses yang lebih luas terhadap sumber data eksternal.
Tidak Menghilangkan Risiko Sepenuhnya
OpenAI menegaskan bahwa Lockdown Mode bukan solusi yang dapat menghapus ancaman prompt injection secara total.
Konten berbahaya masih mungkin muncul melalui data yang telah di-cache atau file yang diunggah pengguna. Namun, perusahaan menyebut fitur ini dapat secara signifikan mengurangi peluang terjadinya kebocoran data saat AI berinteraksi dengan informasi sensitif.
Ditujukan untuk Pengguna dengan Kebutuhan Keamanan Tinggi
Lockdown Mode tidak ditujukan untuk seluruh pengguna ChatGPT.
Fitur ini dirancang untuk organisasi dan individu yang menangani informasi penting, seperti data bisnis, dokumen internal, atau materi yang memerlukan tingkat perlindungan lebih tinggi.
Dengan membatasi akses AI ke sumber eksternal, OpenAI berharap pengguna dapat menjalankan tugas berbasis AI dengan risiko keamanan yang lebih rendah.
Mulai Diluncurkan ke Pengguna Terpilih
Saat ini Lockdown Mode mulai tersedia untuk pelanggan ChatGPT Business yang menggunakan layanan mandiri serta sejumlah akun pribadi yang memenuhi syarat.
Peluncuran fitur ini menunjukkan bahwa keamanan AI agent dan perlindungan data menjadi fokus yang semakin penting seiring meningkatnya penggunaan AI dalam aktivitas bisnis dan pekerjaan sehari-hari.
OpenAI sebelumnya juga mengakui bahwa prompt injection masih menjadi salah satu tantangan terbesar dalam pengembangan AI yang mampu mengakses web, aplikasi, dan sumber data eksternal secara mandiri.
Sumber: Baca artikel asli di sini
