Beranda Berita Google tidak lagi berjanji untuk menahan diri dari menggunakan AI dalam persenjataan...

Google tidak lagi berjanji untuk menahan diri dari menggunakan AI dalam persenjataan militer

5
0
Google tidak lagi berjanji untuk menahan diri dari menggunakan AI dalam persenjataan militer


Kecerdasan buatan sekarang menjadi topik yang sedang tren, terima kasih tidak sedikit untuk peluncuran dan viralitas chatbots llm seperti chatgpt AS dan celah pasar saham Deepseek dari Cina.

Popularitas alat -alat ini telah menyebabkan kekhawatiran tentang bagaimana mereka akan mempengaruhi manusia di berbagai industri, termasuk orang -orang yang tidak terbiasa dengan istilah “kecerdasan buatan.”

Ada beberapa risiko yang terlibat dengan sistem AI, terutama ketika menyangkut potensi mereka untuk memperdalam informasi yang salah, pelanggaran privasi, ketergantungan berlebihan, dan, tentu saja, perang.

Dengan demikian, para pemimpin AI top terus -menerus bekerja keras untuk menjaga AI aman untuk semua orang. Google telah menerbitkan “Laporan Kemajuan AI yang Bertanggung Jawab” setiap tahun selama enam tahun sekarang, dan hari ini, telah merilis Laporan Kemajuan untuk 2024.

Dalam posting blog yang mengumumkan publikasi laporan, Google menyebutkan bahwa mereka telah memperbarui Frontier Safety Framework -nya. Jika Anda tidak tahu apa itu, itu adalah satu set protokol yang dikembangkan oleh Google DeepMind untuk secara proaktif mengidentifikasi dan mengurangi risiko potensial yang terkait dengan model AI canggih. Kerangka kerja yang diperbarui meliputi:

  • Rekomendasi untuk Keamanan yang Tinggi: Membantu mengidentifikasi di mana upaya terkuat untuk mengekang risiko eksfiltrasi diperlukan.
  • Prosedur Mitigasi Penyebaran: Berfokus pada mencegah penyalahgunaan kemampuan kritis dalam sistem yang kami gunakan.
  • Risiko penyelarasan yang menipu: Mengatasi risiko sistem otonom dengan sengaja merusak kontrol manusia.

Di samping pembaruan untuk kerangka kerja keselamatan, Google menegaskan kembali keyakinannya bahwa demokrasi harus memimpin dalam pengembangan AI, dipandu oleh nilai -nilai seperti “kebebasan, kesetaraan, dan penghormatan terhadap hak asasi manusia.” Selain itu, ia mengatakan bahwa mereka memperbarui prinsip -prinsip AI -nya, yang secara publik dirilis kembali pada tahun 2018.

Saat Anda melihat Halaman Prinsip AI LengkapAnda akan melihat bahwa tidak disebutkan penggunaan AI dalam pengembangan senjata.

Salinan halaman ini, diarsipkan 22 Feb 2024 04:19:46 UTC, memiliki bagian itu secara eksplisit menyebutkan senjata Dan janji Google untuk tidak “merancang atau menggunakan AI” di bidang itu:

Senjata atau teknologi lain yang tujuan atau implementasi utamanya adalah untuk menyebabkan atau secara langsung memfasilitasi cedera pada orang.

Baris itu sekarang hilang dalam prinsip -prinsip yang diperbarui. Prinsip -prinsip yang diperbarui sebaliknya akan fokus pada tiga prinsip inti berikut:

  • Inovasi yang berani: Kami mengembangkan AI untuk membantu, memberdayakan, dan menginspirasi orang -orang di hampir setiap bidang upaya manusia, mendorong kemajuan ekonomi dan meningkatkan kehidupan, memungkinkan terobosan ilmiah, dan membantu mengatasi tantangan terbesar umat manusia.
  • Pengembangan dan penyebaran yang bertanggung jawab: Karena kami memahami bahwa AI, sebagai teknologi transformatif yang masih muncul, menimbulkan kompleksitas dan risiko baru, kami menganggapnya sebagai keharusan untuk mengejar AI secara bertanggung jawab di seluruh pengembangan dan penyebaran siklus hidup-dari desain hingga pengujian hingga penyebaran ke iterasi-belajar sebagai kemajuan AI AI- dan menggunakan Evolve.
  • Kemajuan kolaboratif, bersama -sama: Kami belajar dari orang lain, dan membangun teknologi yang memberdayakan orang lain untuk memanfaatkan AI secara positif.

Google belum mengakui penghapusan janji untuk tidak menggunakan AI dalam pengembangan senjata, tetapi ini adalah sesuatu yang karyawannya telah menyatakan oposisi yang kuat di masa lalu.

Misalnya, pada tahun 2018, hampir 4.000 karyawan Google menandatangani surat yang mendesak perusahaan Untuk mengakhiri kontraknya dengan Departemen Pertahanan AS, yang dikenal sebagai Project Maven, yang melibatkan penggunaan AI untuk menganalisis rekaman drone.

Demikian juga tahun lalu, Karyawan dari Google DeepMind menandatangani surat mendesak raksasa teknologi untuk mengakhiri hubungan dengan organisasi militer. Surat itu mengutip prinsip-prinsip AI perusahaan, dengan alasan bahwa keterlibatannya dengan manufaktur militer dan senjata bertentangan dan melanggar janji yang sekarang dikeluarkan untuk tidak menggunakan AI dalam persenjataan.

Gambar via Depositphotos.com





Source link