Perkembangan Kekintungan Intelligen dan Dialog Global UN tentang Pengelolaan Kekintungan: Tandai Peristiwa Besar dalam Sejarah Manusia

Pada tanggal 6 Juli 2026 di Jenewa, Switzerland, Dialog Global UN tentang Pengelolaan Kekintungan Intelligen (Global Dialogue on AI Governance) yang pertama diadakan mulai beroperasi. Acara ini, yang didirikan dengan resolusi Majelis Umum UN, mengumpulkan perwakilan pemerintah, perusahaan teknologi, masyarakat ilmiah, masyarakat sipil dan organisasi internasional untuk mengembangkan pendekatan yang disesuaikan untuk peraturan salah satu teknologi paling berpengaruh di abad ke-21. Acara ini, yang diadakan dari tanggal 6 sampai 7 Juli, menarik lebih dari 4.000 delegasi dari 170 negara dan menerima lebih dari 1.500 permohonan tulisan. Ini bukan hanya konferensi internasional lainnya, tetapi poin bifurkasi tempat diambil keputusan apakah masyarakat manusia akan mengelola transformasi yang disebabkan oleh kekintungan atau memungkinkan ia untuk mengelola dirinya sendiri.

Sinyal Khawatir: Peringatan dari Grup Ilmiah Nasional Independen tentang Kekintungan Intelligen

Pengembangan dialog sejalan dengan presentasi laporan pertama Grup Ilmiah Nasional Independen tentang Kekintungan Intelligen, yang dipimpin oleh ilmuwan terkenal Yoshua Bengio dan pemenang Penghargaan Nobel Perdamaian Maria Resa. Dokumen ini berisi tiga peringatan utama yang menjadi dasar untuk semua diskusi selanjutnya.

Peringatan pertama tentang kecepatan. Internet membutuhkan 15 tahun untuk mencapai satupun miliar pengguna. Kekintungan hanya membutuhkan dua tahun. Sekretaris Jenderal UN Antonio Guterres di pembukaan dialog mengatakan: “Kekintungan berkembang dengan kecepatan yang melarikan — lebih cepat daripada masyarakat manusia dapat mengejar. Ekspimen diadakan atas masyarakat kami — tanpa rancangan dan tanpa persetujuan”. Sistem tidak lagi hanya alat yang menunggu instruksi — mereka menulis kode, bertindak di jaringan dan mengambil keputusan dengan kontrol manusia semakin kecil. Lembaga yang dibangun untuk mengelola mesin yang mengikuti perintah tidak siap untuk mengelola mesin yang mengambil keputusan.

Peringatan kedua tentang konsentrasi kekuasaan. Kapasitas perhitungan, data dan bakat di belakang sistem yang paling maju disumbangkan oleh beberapa perusahaan dan beberapa negara. Sebagian besar negara, termasuk banyak negara berkembang, tidak punya suara apapun dalam keputusan yang akan membentuk masa depan mereka. “Ketidakseimbangan kekuasaan yang disertakan dalam teknologi menjadikan ketidakadilan bagian dari kode”, peringatkan Guterres.

Peringatan ketiga tentang kebenaran. Penipuan mesin sekarang dapat meyakinkan dengan sekuat kebenaran, dan bukti yang asli dapat ditolak sebagai palsu. Ini mengkhianati keutuhan ekosistem informasi dan kepercayaan terhadapnya. Sebagai kata Mariana Resa: “Jika anda tidak dapat membedakan faktor dari penipuan, anda tidak dapat memiliki demokrasi”.

Empat Prioritas Guterres: Keamanan, Hak Asasi Manusia, Potensi dan Transparansi

Pada pidatonya, Guterres menandai empat prioritas utama pengelolaan kekintungan: keamanan, hak asasi manusia, pengembangan potensi dan transparansi. Prinsip-prinsip ini diharapkan untuk mengubah partisipasi global yang luas menjadi tindakan khusus dan membuat kekintungan “lebih aman, adil, mudah diakses dan etis”.

Sekretaris Jenderal menekankan: “Masalah lebih dari lagi apakah kekintungan akan merubah dunia kami — ia sudah melakukan hal itu. Masalah adalah apakah kami akan mengelola transformasi ini bersama — atau membiarkan ia mengelola kami”. Dia juga mengatakan: “Kami adalah generasi terakhir yang dapat menetapkan aturan hubungan antar manusia dan mesin”. Dialog ini tidak bertujuan untuk menandatangani perjanjian resmi, tetapi untuk menempatkan dasar bagi negosiasi mendatang dan menciptakan pemahaman umum tentang bagaimana mengelola teknologi yang berkembang lebih cepat daripada peraturan yang bertujuan untuk menghentikan ia.

Tema Utama Dialog: Pembagian, Keamanan dan Pengawasan Manusia

During the two-day work, a wide range of issues reflecting seven thematic clusters determined by the resolution of the General Assembly were discussed. The central theme was overcoming the “digital gap”. As noted by Ambassador Estonia Rein Tammsaar, “developers of advanced systems are concentrated in two countries [USA and China]”, which leaves other states with many questions. Developing countries, in particular, fear that the gap in the field of AI will leave them behind forever.

Security of AI became another key topic. Bengio warned that science currently cannot guarantee that as AI's capabilities grow, it will not cause “catastrophic harm”. Participants emphasized that protective mechanisms are needed throughout the entire lifecycle of systems, not just at the learning model stage. Special attention was given to protecting children from the risks associated with AI.

Human control and accountability were also at the center of the discussions. As noted by the President of the General Assembly, Anna Lena Berbok, “never before have the pace and scale of change been so dazzling” and “never has it been so difficult to understand and adapt to these changes”. She emphasized that “something with such power, with such deep influence on our economy, social systems, defense and, consequently, on our world and security, but especially even in our homes, our food and children's bedrooms - can only be meaningfully and safely managed collectively”.

Masa Depan Kekintungan: Dari “generasi” ke “rencana” dan agen mandiri

While diplomats were discussing rules, the technological landscape continued to change rapidly. 2026 became a turning point in the development of AI. The main trend was the shift from simple generative models to “agent AI” - autonomous systems capable of performing multi-step tasks without constant human involvement: from personalized planning to cyber security and health assessment. More and more leading AI companies are focusing on improving the ability of models to reason and perform tasks, promoting AI from the ability to “generate” to the ability to “plan”.

According to IDC forecasts, by 2026, 70% of organizations will use “composite AI” that combines generative, process, predictive and agent technologies. By 2027, the use of AI agents in global companies will increase tenfold, and the number of challenges will increase a thousandfold. Global AI spending in 2026 will reach $2.59 trillion, and by 2029 will reach $700 billion just in the IT sector.

Tantangan masa mendatang: energi, pekerjaan dan suverenitas

However, along with opportunities, new challenges come. The energy consumption of AI has become a critical issue. Sally Radwan, the chief digital director of the UN Environment Programme, noted that “the future of AI is inseparable from the future of the planet”. The large-scale implementation of AI requires “controlling the energy consumption associated with AI, greenhouse gas emissions, as well as water and material consumption”.

The impact on the labor market also causes concern. Research shows that 48% of companies have reduced staff due to AI. At the same time, new professions and skill requirements are emerging: by 2027, 75% of hiring processes will include testing skills in AI. Generative AI and AI agents will create the first major challenge to mass productivity tools in the last 30 years, leading to market changes totaling $58 billion.

Another important trend is “sovereign AI”. By 2027, 35% of countries will use regional AI platforms based on their own proprietary data. This reflects the desire of states to retain control over their data and technological infrastructure in the face of increasing geopolitical competition.

Pengakhiran: Timpuan pilihan yang akan menentukan masa depan manusia

Dialog Global UN tentang Pengelolaan Kekintungan AI menjadi tanggapan atas tantangan yang disebutkan Guterres dengan jelas: “Pilihan di hadapanku antara pemerintahan proyek dan deragut secara default”. Pendekar Majelis Umum, Anna Lena Berbok, mengingatkan bahwa Perserikatan Bangsa-Bangsa, yang diadopsi 81 tahun lalu, menuntut kami “mencapai kerjasama internasional dalam memecahkan masalah internasional yang berhubungan dengan ekonomi, sosial, budaya atau masalah kemanusiaan”. AI adalah masalah seperti itu.