🧑🔬 Jan Leike: Tokoh Penting Dalam AI Safety & Superalignment
Dalam dunia kecerdasan buatan (AI) yang berkembang pesat, nama Jan Leike menjadi antara individu paling penting dalam bidang AI safety dan superalignment.
Beliau bukan sekadar penyelidik AI, tetapi antara orang yang cuba memastikan AI masa depan kekal selari dengan nilai dan niat manusia.
🎓 Latar Belakang Jan Leike
- Mendapat PhD dalam reinforcement learning dari Australian National University
- Belajar di University of Freiburg, Jerman
- Memulakan kerjaya di DeepMind dalam bidang AI safety
- Kemudian menyertai Future of Humanity Institute, Oxford
Pada tahun 2021, beliau menyertai OpenAI dan menjadi salah satu pemimpin dalam bidang keselamatan AI.
🔥 Superalignment Team di OpenAI
Pada Julai 2023, OpenAI menubuhkan Superalignment Team dengan misi besar:
Mengawal sistem AI superintelligent supaya selari dengan niat manusia.
Jan Leike bersama Ilya Sutskever memimpin pasukan ini, dengan fokus kepada:
- Automated oversight (pengawasan automatik AI)
- Weak-to-strong generalization
- Pembinaan sistem alignment berskala besar
⚠️ Perletakan Jawatan dari OpenAI
Pada Mei 2024, Jan Leike meninggalkan OpenAI bersama beberapa tokoh lain. Beliau menyuarakan kebimbangan bahawa fokus syarikat terlalu tertumpu kepada produk komersial berbanding keselamatan AI.
Beliau juga menekankan bahawa sumber untuk keselamatan AI tidak mencukupi walaupun telah dijanjikan.
🤝 Menyertai Anthropic
Selepas meninggalkan OpenAI, beliau menyertai Anthropic — sebuah syarikat AI yang diasaskan oleh bekas penyelidik OpenAI.
Di sini, beliau meneruskan kerja dalam bidang AI safety dengan fokus kepada:
- Scalable oversight
- Weak-to-strong generalization
- Automated alignment system
💡 Kenapa Jan Leike Penting Dalam Dunia AI?
- 🔬 Pakar dalam AI safety dan reinforcement learning
- 🧠 Antara pemimpin utama dalam Superalignment OpenAI
- ⚖️ Berani bersuara tentang risiko AI tidak terkawal
- 🏢 Berpengaruh dalam OpenAI, DeepMind dan Anthropic
Perjalanan beliau menunjukkan bahawa isu keselamatan AI kini bukan lagi teori — tetapi satu keutamaan global.
💬 Catatan Refleksi #JMBELOG
Dalam dunia yang semakin dikuasai teknologi, persoalan terbesar bukan lagi “apa yang AI boleh buat”, tetapi “apa yang AI sepatutnya dibenarkan untuk buat”.
Di sinilah kerja seperti Jan Leike menjadi sangat penting — memastikan kemajuan tidak mengorbankan manusia.
#JMBELOG – Catatan tentang manusia, teknologi dan masa depan.
📚 Sumber Rujukan
*Maklumat berdasarkan sumber umum dan laporan penyelidikan AI semasa.