🧑‍🔬 Jan Leike: Tokoh Penting Dalam AI Safety & Superalignment

Dalam dunia kecerdasan buatan (AI) yang berkembang pesat, nama Jan Leike menjadi antara individu paling penting dalam bidang AI safety dan superalignment.

Beliau bukan sekadar penyelidik AI, tetapi antara orang yang cuba memastikan AI masa depan kekal selari dengan nilai dan niat manusia.

🎓 Latar Belakang Jan Leike

Mendapat PhD dalam reinforcement learning dari Australian National University
Belajar di University of Freiburg, Jerman
Memulakan kerjaya di DeepMind dalam bidang AI safety
Kemudian menyertai Future of Humanity Institute, Oxford

Pada tahun 2021, beliau menyertai OpenAI dan menjadi salah satu pemimpin dalam bidang keselamatan AI.

🔥 Superalignment Team di OpenAI

Pada Julai 2023, OpenAI menubuhkan Superalignment Team dengan misi besar:

Mengawal sistem AI superintelligent supaya selari dengan niat manusia.

Jan Leike bersama Ilya Sutskever memimpin pasukan ini, dengan fokus kepada:

Automated oversight (pengawasan automatik AI)
Weak-to-strong generalization
Pembinaan sistem alignment berskala besar

⚠️ Perletakan Jawatan dari OpenAI

Pada Mei 2024, Jan Leike meninggalkan OpenAI bersama beberapa tokoh lain. Beliau menyuarakan kebimbangan bahawa fokus syarikat terlalu tertumpu kepada produk komersial berbanding keselamatan AI.

Beliau juga menekankan bahawa sumber untuk keselamatan AI tidak mencukupi walaupun telah dijanjikan.

🤝 Menyertai Anthropic

Selepas meninggalkan OpenAI, beliau menyertai Anthropic — sebuah syarikat AI yang diasaskan oleh bekas penyelidik OpenAI.

Di sini, beliau meneruskan kerja dalam bidang AI safety dengan fokus kepada:

Scalable oversight
Weak-to-strong generalization
Automated alignment system

💡 Kenapa Jan Leike Penting Dalam Dunia AI?

🔬 Pakar dalam AI safety dan reinforcement learning
🧠 Antara pemimpin utama dalam Superalignment OpenAI
⚖️ Berani bersuara tentang risiko AI tidak terkawal
🏢 Berpengaruh dalam OpenAI, DeepMind dan Anthropic

Perjalanan beliau menunjukkan bahawa isu keselamatan AI kini bukan lagi teori — tetapi satu keutamaan global.

💬 Catatan Refleksi #JMBELOG

Dalam dunia yang semakin dikuasai teknologi, persoalan terbesar bukan lagi “apa yang AI boleh buat”, tetapi “apa yang AI sepatutnya dibenarkan untuk buat”.

Di sinilah kerja seperti Jan Leike menjadi sangat penting — memastikan kemajuan tidak mengorbankan manusia.

#JMBELOG – Catatan tentang manusia, teknologi dan masa depan.

📚 Sumber Rujukan

*Maklumat berdasarkan sumber umum dan laporan penyelidikan AI semasa.

#JMBELOG