Korea Selatan Resmi Sahkan UU AI, Atur Pengawasan Manusia Ketat

JAKARTA - Korea Selatan membuat langkah besar yang langsung menyita perhatian dunia teknologi. Negeri Ginseng resmi menjadi negara pertama yang mengesahkan undang-undang khusus untuk mengatur akal imitasi (AI). Keputusan ini menempatkan Korea Selatan di barisan terdepan dalam regulasi teknologi global, bahkan disebut melampaui Uni Eropa dalam hal kepastian hukum.

Alih-alih sekadar menerbitkan panduan etika, Korea Selatan memilih jalur yang lebih tegas: membuat aturan yang mengikat secara hukum. Undang-undang tersebut dikenal sebagai AI Basic Act, yang mengatur kewajiban pengawasan manusia, transparansi penggunaan AI, hingga ketentuan penerapan sanksi. Namun, kebijakan ini juga memunculkan pro-kontra, terutama dari kalangan startup yang khawatir inovasi bisa tersendat akibat aturan yang dinilai masih belum sepenuhnya jelas.

AI Basic Act: Korea Selatan Pasang Standar Regulasi Global

NEGARA Korea Selatan resmi menetapkan serangkaian undang-undang penting untuk mengatur akal imitasi (AI) yang mendahului negara lainnya di dunia. Langkah ini menempatkan Korea Selatan di garis depan regulasi teknologi global, bahkan melampaui Uni Eropa.

Peraturan AI dari Negeri Ginseng ini berbentuk undang-undang yang dikenal sebagai AI Basic Act. Kehadiran aturan ini menjadi penanda bahwa pemerintah Korea Selatan tidak ingin perkembangan AI melaju tanpa rem pengaman, terutama pada sektor-sektor yang menyangkut keselamatan publik dan kepentingan nasional.

Dengan payung hukum tersebut, perusahaan dan pengembang AI tidak hanya diminta bertanggung jawab secara moral, tetapi juga secara legal. Artinya, aturan ini bukan lagi sebatas imbauan, melainkan kewajiban yang akan berujung konsekuensi bila dilanggar.

Sistem AI Berisiko Tinggi Wajib Diawasi Manusia

Melalui kerangka hukum ini, Korea Selatan mewajibkan adanya pengawasan manusia yang ketat untuk sistem AI berisiko tinggi, seperti teknologi nuklir, transportasi, layanan kesehatan, hingga penyediaan air minum.

Penekanan pada “pengawasan manusia” menunjukkan bahwa pemerintah ingin memastikan AI tidak sepenuhnya mengambil alih keputusan pada bidang-bidang krusial. Di sektor seperti nuklir, transportasi publik, hingga layanan kesehatan, kesalahan kecil saja dapat berdampak fatal. Karena itu, AI ditempatkan sebagai alat bantu, bukan penentu akhir.

Selain itu, aturan ini juga memperjelas kategori penggunaan AI yang dinilai berdampak tinggi dan berisiko tinggi. Fokus utamanya adalah memastikan keputusan-keputusan penting tetap memiliki kontrol manusia, agar potensi kegagalan sistem, bias algoritma, maupun error teknis bisa dicegah sejak awal.

AI di Sektor Keuangan Tak Boleh Lepas dari Intervensi Manusia

Selain sektor publik dan layanan vital, aturan AI Korea Selatan juga menyasar sektor finansial. Penggunaan AI dalam sektor keuangan, seperti evaluasi kredit dan penyaringan pinjaman, juga wajib melibatkan intervensi manusia untuk mencegah kesalahan fatal.

Kebijakan ini terasa penting karena keputusan AI dalam keuangan bisa langsung memengaruhi nasib masyarakat, mulai dari akses kredit hingga kelayakan pinjaman. Tanpa pengawasan manusia, risiko bias data dan kesalahan model dapat membuat seseorang dirugikan tanpa kesempatan klarifikasi.

Dengan ketentuan tersebut, perusahaan keuangan tidak bisa hanya berlindung di balik sistem otomatis. Mereka tetap harus memastikan ada pihak yang bertanggung jawab secara langsung atas keputusan yang dihasilkan AI.

Transparansi AI Generatif: Konsumen Harus Diberi Tahu Lebih Dulu

Regulasi ini juga menuntut transparansi penuh dari perusahaan kepada konsumennya terkait penggunaan teknologi AI. Perusahaan diwajibkan memberikan pemberitahuan terlebih dahulu kepada pengguna mengenai produk atau layanan yang menggunakan AI generatif itu.

Artinya, konsumen berhak mengetahui apakah layanan yang mereka pakai melibatkan AI generatif atau tidak. Ketentuan ini dinilai krusial karena AI generatif semakin banyak digunakan dalam produk sehari-hari—mulai dari layanan pelanggan otomatis, rekomendasi konten, hingga pembuatan teks dan gambar.

Dengan transparansi, pengguna bisa mengambil keputusan lebih sadar: apakah ingin menggunakan layanan tersebut, bagaimana data mereka diproses, serta apa risiko yang mungkin muncul.

Masa Tenggang dan Kekhawatiran Startup: Regulasi vs Inovasi

Untuk memberikan waktu adaptasi bagi industri, pemerintah Korea Selatan menetapkan masa tenggang setidaknya satu tahun sebelum sanksi denda mulai diberlakukan secara efektif.

Meski tujuannya jelas untuk keamanan dan tata kelola AI yang sehat, regulasi ini memicu kekhawatiran di kalangan perusahaan rintisan setempat. Mereka cemas bahwa ketentuan yang dianggap masih samar dalam undang-undang tersebut dapat berpotensi menghambat inovasi.

Klaim Korea Selatan sebagai pelopor regulasi global ini menyoroti perbedaan mendasar antara panduan etika dan undang-undang yang mengikat secara hukum. Sejumlah negara, termasuk Indonesia, melalui Surat Edaran Menkominfo Nomor 9 Tahun 2023 sebenarnya telah menerbitkan pedoman etika akal imitasi, namun aturan tersebut bersifat panduan tanpa sanksi administratif langsung dalam regulasinya.

Dengan demikian, Korea Selatan kini menjadi contoh bagaimana sebuah negara memilih jalur tegas dalam mengatur AI: bukan hanya etika, tetapi juga penegakan hukum.