Intelligence Artificial

Intelligence Artificial – Oktober lalu, anggota Kongres Anna G. Eshoo menulis surat terbuka kepada penasihat keamanan nasional dan Kantor Kebijakan Sains dan Teknologi (OSTP), mendesak mereka untuk mengatasi risiko biosekuriti yang terkait dengan penggunaan kecerdasan buatan (AI) baik pada manusia maupun antar manusia. populasi militer. Aplikasi. Dia menulis: “Kecerdasan buatan memiliki aplikasi penting dalam bioteknologi, layanan kesehatan, dan farmasi, namun kita harus ingat potensi ancaman yang ditimbulkan oleh aplikasi penggunaan ganda terhadap keamanan nasional, keamanan ekonomi, dan kesehatan masyarakat Amerika Serikat seperti yang kita lakukan. dengan sumber daya fisik seperti molekul atau biologi.” Pada pertemuan pertama Dewan Keamanan PBB yang bersejarah mengenai dampak kecerdasan buatan terhadap perdamaian dan keamanan pada bulan Juli, Sekretaris Jenderal António Guterres menegaskan kembali keprihatinan ini, dengan menyatakan bahwa “interaksi antara kecerdasan buatan dan senjata nuklir, bioteknologi, neuroteknologi, dan robotika sangatlah penting. kekhawatiran.” kekhawatiran”.

Bidang yang mengkaji bagaimana sifat ganda dari sistem kecerdasan buatan dapat meningkatkan sifat ganda dari teknologi lain – termasuk biologi, kimia, nuklir, dan siber – dikenal sebagai konvergensi. Para pembuat kebijakan biasanya berfokus pada pengujian risiko dan manfaat berbagai teknologi secara terpisah, dengan asumsi interaksi terbatas antar bidang risiko. Namun, AI memiliki kemampuan unik untuk berintegrasi dengan teknologi lain dan meningkatkan risiko. Hal ini memerlukan penilaian ulang terhadap pendekatan kebijakan standar dan penciptaan tipologi risiko konvergensi, yang umumnya dapat dihasilkan dari salah satu dari dua konsep: konvergensi dengan teknologi atau konvergensi lingkungan keamanan.

Intelligence Artificial

Intelligence Artificial

Konvergensi dengan teknologi. Interaksi langsung antara AI dan perkembangan di bidang teknologi lainnya mempunyai manfaat dan risiko tersendiri. Contoh konvergensi jenis ini mencakup interaksi kecerdasan buatan dengan biosekuriti, senjata kimia, senjata nuklir, keamanan siber, dan sistem senjata konvensional.

Artificial Intelligence (ai)

. Dalam menilai kegunaan relatif kerangka penilaian risiko untuk memetakan konvergensi kecerdasan buatan dan ancaman biosekuriti, peneliti John T. O’Brien dan Cassidy Nelson mendefinisikan konvergensi sebagai “konvergensi teknologi antara ilmu hayati dan kecerdasan buatan sedemikian rupa sehingga kekuatan interaksi mereka lebih besar daripada jumlah disiplin ilmu masing-masing.” Pekerjaan mereka mengkaji potensi interaksi antar domain yang dapat meningkatkan risiko kejadian biologis yang disengaja atau tidak dengan konsekuensi serius. Hal ini mencakup, misalnya, identifikasi faktor virulensi yang dibantu AI, yaitu

(melalui simulasi komputer) merancang patogen baru. Penelitian selanjutnya menyoroti penerapan pembelajaran mendalam dalam genomik, serta kerentanan keamanan siber dalam repositori data biologis yang berisiko tinggi. Beberapa artikel terbaru di

. Sebagai bagian dari Inisiatif Konvergensi Institut Federal Swiss untuk Perlindungan Nuklir, Biologi dan Kimia (NBC), sebuah perusahaan toksikologi komputasi diminta untuk menyelidiki potensi risiko sistem kecerdasan buatan penggunaan ganda dalam penemuan obat. Inisiatif ini menunjukkan bahwa sistem ini dapat menghasilkan ribuan senjata kimia baru

Sebagian besar senyawa baru ini, serta prekursor utamanya, tidak masuk dalam daftar pengawasan pemerintah karena tergolong baru. Perkembangan ini harus dilihat dari munculnya sarana artifisial yang didasarkan pada model bahasa yang besar. Mereka adalah agen yang memahami cara mengonversi program penemuan obat sumber terbuka, cara mengirim email dan pembayaran ke produsen khusus, dan cara mempekerjakan pekerja sementara untuk melakukan tugas terdistribusi di dunia fisik.

Artificial Intelligence (ai) In Healthcare & Hospitals

Semakin banyak penelitian dan advokasi yang menyoroti potensi konsekuensi destabilisasi dari penggabungan kecerdasan buatan ke dalam komando, kendali, dan komunikasi senjata nuklir (NC3), seperti yang diilustrasikan dalam video Eskalasi Buatan yang dibuat oleh Future of Life Institute.

Diskusi tingkat tinggi dengan pakar AI senior dan pejabat pemerintah di Arms Control Association pada bulan Juni mengungkapkan banyak kekhawatiran keamanan seputar integrasi ini. Kekhawatiran ini mencakup kurangnya kemampuan untuk memverifikasi dan mengendalikan pengambilan keputusan AI, risiko lebih tinggi terhadap penggunaan senjata otonom secara tidak sengaja, dan peningkatan kemungkinan eskalasi konflik.

. Laporan dunia maya menunjukkan bagaimana sistem kecerdasan buatan dapat memudahkan pelaku kejahatan menciptakan malware yang lebih ganas dan merusak. Mereka juga membantu musuh mengotomatiskan serangan di dunia maya melalui eksploitasi zero-day baru (kerentanan yang sebelumnya tidak teridentifikasi) yang menargetkan perintah dan kontrol, phishing, dan ransomware. Peretasan yang dimulai secara mandiri diperkirakan akan menjadi sebuah kemungkinan dalam waktu dekat, mengingat lintasan perkembangan kecerdasan buatan saat ini.

Intelligence Artificial

Fitur utama AI adalah memungkinkan aktor tunggal melakukan tindakan dalam skala besar dan kecepatan mesin. Ada pendapat bahwa penerapan paradigma ini dalam mengintegrasikan kecerdasan buatan dengan sistem senjata konvensional seperti drone anti-personil dan kawanan drone akan menciptakan kategori senjata baru yang berpotensi menimbulkan pemusnahan massal. Selain itu, inisiatif Komando dan Kontrol Semua Domain Gabungan AS bertujuan untuk mengintegrasikan semua aspek struktur komando dan kontrol konvensional ke dalam satu jaringan berbasis AI yang membawa banyak risiko, termasuk eskalasi yang tidak disengaja.

Artificial Intelligence: Next Frontier Is Cybersecurity > National Security Agency/central Security Service > Article

Masing-masing contoh ini mengeksplorasi interaksi antara sistem AI dan teknologi tertentu, namun kenyataannya dalam lanskap ini lebih kompleks. Seperti Kecerdasan Buatan, Keamanan Siber, dan Komando, Pengendalian, dan Komunikasi Nuklir (NC3)? Bagaimana Anda membayangkan kombinasi hal-hal di atas dengan ancaman terhadap infrastruktur penting, seperti peretasan dan penutupan jaringan listrik atau instalasi pengolahan air? Bagaimana cara menilai risiko yang ditimbulkan oleh sistem AI canggih dibandingkan dengan ancaman keamanan tradisional dan teknologi baru lainnya?

Konvergensi berdasarkan lingkungan keamanan. Di luar isu interaksi langsung, penting juga untuk mempertimbangkan bagaimana lingkungan di mana meluasnya penggunaan sistem kecerdasan buatan menghasilkan disinformasi dan penghormatan yang lebih besar terhadap teknologi berdampak pada hambatan pengembangan dan penggunaan senjata pemusnah massal (WMD). Konvergensi lingkungan keamanan mencakup situasi di mana perkembangan teknologi mengubah lingkungan keamanan secara keseluruhan, sehingga menimbulkan dampak tidak langsung yang menonjolkan risiko secara keseluruhan. Dampaknya dalam kasus ini mungkin lebih sulit untuk dipelajari. Namun, banyak contoh yang dapat diprediksi.

Misalnya, dapat dibayangkan bahwa pengembangan sistem kecerdasan buatan yang memfasilitasi penciptaan informasi palsu dan palsu dapat meningkatkan kesalahpahaman di tingkat internasional. Hal ini akan mengurangi kemungkinan berhasilnya menghubungkan peristiwa biologis. Mungkin ada peningkatan risiko nuklir karena meningkatnya asimetri informasi dan kegagalan sinyal. Dinamika persaingan antara kedua negara dalam pengembangan kecerdasan buatan juga dapat menyebabkan salah satu pihak mempertimbangkan untuk menggunakan senjata pemusnah massal atau melakukan serangan konvensional terhadap pihak lain.

Terlepas dari tipologi tersebut, masih ada pertanyaan makro penting lainnya: apakah akan mengkaji risiko konvergensi secara holistik atau menciptakan ruang penelitian individual untuk setiap aspek konvergensi. Misalnya, meminjam dari proyek biosekuriti interdisipliner yang didirikan oleh Stockholm International Peace Research Institute (SIPRI) bertajuk “BIO Plus dan ancaman terkait senjata pemusnah massal secara keseluruhan, mengkaji cara dan sarana penanggulangan yang umum. Pada saat yang sama, perbedaan antara masing-masing jalur konvergensi (misalnya, AI dan bioteknologi versus AI dan nuklir) mungkin begitu signifikan sehingga jika mengkaji risiko-risiko ini secara bersamaan, hal ini dapat mengakibatkan hilangnya beberapa perbedaan penting. Jawabannya mungkin merupakan campuran keduanya, tetapi tata rias patut dipertimbangkan.

Artificial Intelligence In Business: Creating Value With Machine Learning

Berbagai aliran pemikiran tentang konvergensi. Di permukaan, berbagai aliran pemikiran mengenai konvergensi sebagian besar tumpang tindih dengan pembagian kubu mengenai kemajuan teknologi. Seorang yang optimis akan teknologi berpendapat bahwa sistem AI akan memaksimalkan manfaat teknologi ini dan membantu meminimalkan risikonya. Manfaatnya mencakup komando dan kendali nuklir yang lebih kuat, pengembangan vaksin yang lebih cepat, dan perangkat siber yang lebih terlatih; Orang-orang yang optimis mungkin berpendapat bahwa peraturan akan menunda atau mencegah manfaat-manfaat ini.

Orang-orang yang berpikiran keamanan mungkin ingin lebih mempertimbangkan kekhawatiran yang dibahas dalam artikel ini, dengan alasan bahwa perkembangan kecerdasan buatan yang tidak terkendali kemungkinan besar akan menyebabkan berkurangnya keamanan internasional dan nasional.

Kelompok ketiga, terkait dengan status quo, menunjukkan kurangnya penelitian empiris mengenai keuntungan dan kerugian konvergensi dan, secara lebih umum, mempertanyakan kekuatan transformatif sistem AI di kedua arah.

Intelligence Artificial

Mengingat kecepatan, skala, dan keragaman pengembangan dan penggunaan AI, penting bagi para ahli untuk memulai dengan pendekatan keamanan. Semua teknologi ini memiliki aplikasi penggunaan ganda yang luas, dan percepatan pengembangan dapat membawa manfaat dan kerugian. Menilai rasio risiko-manfaat dari masing-masing teknologi ini merupakan masalah empiris. Masalah ini diperburuk oleh konvergensi dan menyoroti perlunya penelitian lebih lanjut untuk mengukur kelebihan dan kekurangan serta mengeksplorasi kerangka kerja yang dapat mempertimbangkan kompleksitas ini.

Convergence: Artificial Intelligence And The New And Old Weapons Of Mass Destruction

Namun, seiring dengan berlanjutnya penelitian, teknologi defensif seringkali kurang memberikan manfaat dibandingkan teknologi ofensif di banyak area berisiko tinggi. Misalnya, patogen yang sangat mematikan umumnya bertahan dalam pengembangan vaksin. Penting untuk memeriksa keseimbangan di antara masing-masing teknologi ini, namun kecenderungan teknologi defensif baru tertinggal dibandingkan teknologi ofensif baru mengharuskan para pembuat kebijakan untuk sangat berhati-hati terhadap ancaman konvergensi.

Kebijakan yang melindungi terhadap risiko konsentrasi. Terlepas dari penelitian lebih lanjut, banyak yang dapat dilakukan dalam bidang kebijakan ini untuk mengurangi risiko konsentrasi.

Pertama, penting bagi pemerintah untuk mengalokasikan dana ke lembaga seperti National Science Foundation untuk lebih memahami risiko konsentrasi. Hal ini juga harus mencakup pemeriksaan konvergensi teknologi di bidang tertentu dan konvergensi lingkungan keamanan,

About artificial intelligence, msc artificial intelligence, apa itu artificial intelligence, artificial intelligence adalah, artificial intelligence journal, kursus artificial intelligence, ebook artificial intelligence, al artificial intelligence, artificial intelligence in it, artificial intelligence software, artificial intelligence, artificial intelligence software development

Leave a Comment