Hype AI Mendorong Permintaan Akan Keterampilan SecOps ML

Sebagai tanda semakin pentingnya menilai risiko bahasa buatan terhadap aset perusahaan, organisasi semakin mencari kandidat pekerjaan dengan keterampilan dalam pembelajaran mesin (ML) dan model bahasa besar (LLM) untuk mengisi pekerjaan keamanan siber. Dalam laporan "2024 State of Cybersecurity" ISACA , kurang dari seperempat responden (24%) menyebutkan LLM SecOps dan ML SecOps sebagai kesenjangan keterampilan terbesar yang mereka lihat dalam keamanan siber. Keterampilan lunak — komunikasi, fleksibilitas, dan kepemimpinan — terus menjadi kategori keterampilan terbesar yang tidak dimiliki oleh para profesional keamanan siber, menurut 51% responden.

Sumber: "Keadaan Keamanan Siber 2024," ISACA

Dicari: Keterampilan LLM, ML

LLM SecOps dan ML SecOps merupakan keahlian yang terbilang baru, tetapi, seperti teknologi yang diamankannya, kini tampaknya keahlian tersebut ada di mana-mana.

MLSecOps adalah disiplin yang mengintegrasikan keamanan ke dalam pengembangan dan penerapan sistem ML. Ini mencakup proses khusus ML, seperti mengamankan data yang digunakan untuk melatih model dan mencegah bias melalui transparansi, serta menerapkan tugas operasi keamanan standar, seperti pengkodean aman, pemodelan ancaman, audit keamanan, dan respons insiden, ke sistem ML.

LLM SecOps mengacu pada pengamanan seluruh siklus hidup LLM , dari persiapan data hingga respons insiden. LLM SecOps mencakup berbagai masalah seperti tinjauan etika dalam fase desain, sanitasi data pelatihan, analisis mengapa sistem membuat keputusan seperti itu selama pelatihan, pemblokiran pembuatan konten berbahaya, dan pemantauan model setelah diterapkan.

Ada daftar sumber daya yang terus bertambah bagi para profesional keamanan untuk membangun keterampilan mereka. Untuk ML SecOps, Benjamin Kereopa-Yorke, seorang spesialis keamanan informasi senior dan peneliti keamanan AI di penyedia telekomunikasi Telstra, mengelola repositori GitHub untuk sumber daya dan pelatihan , dengan kursus yang dikategorikan berdasarkan pengetahuan ML sebelumnya yang diperlukan dan diklasifikasikan sebagai vendor-agnostic atau vendor-centric. Open Worldwide Application Security Project (OWASP) memiliki draf daftar Sepuluh Teratas Keamanan Pembelajaran Mesin yang menjelaskan cara kerja serangan ML, seperti keracunan data atau inferensi anggota, dan cara menangkalnya. OWASP juga mengelola Sepuluh Teratas OWASP untuk LLM, yang mencakup topik yang relevan dengan LLM SecOps, seperti injeksi cepat , pengungkapan informasi sensitif , dan pencurian model .

Organisasi mencari keterampilan khusus untuk mengisi posisi keamanan siber yang kosong. Setelah keterampilan nonteknis, komputasi awan merupakan kesenjangan keterampilan terbesar kedua (42%), diikuti oleh penerapan kontrol keamanan (35%) dan pengembangan perangkat lunak (28%).

Dengan begitu banyaknya beban kerja organisasi yang kini berada di cloud, masuk akal jika organisasi membutuhkan profesional keamanan siber dengan keterampilan komputasi cloud. Mengamankan aset cloud memerlukan pola pikir dan keahlian teknis yang berbeda dari jaringan tradisional, dan penyedia cloud menangani tugas-tugas tertentu secara berbeda, yang membutuhkan pengetahuan khusus.

Implementasi kontrol keamanan mengacu pada perlindungan titik akhir, jaringan, dan aplikasi. Kesenjangan keterampilan dalam pengembangan perangkat lunak tidak terkait dengan pengkodean, tetapi lebih pada hal-hal seperti pengujian dan penerapan. Sekali lagi, hal ini menyoroti tantangan yang dihadapi organisasi dalam mengamankan alur pengembangan perangkat lunak dan integrasinya.