Apakah Ada Kebutuhan akan Robot dengan Keagenan Moral? Sebuah Studi Kasus dalam Robotika Sosial

Abstrak ini secara efektif menempatkan penyelidikannya dalam semangat zaman penilaian risiko AI saat ini, mengakui dominasi kekhawatiran seputar Artificial General Intelligence (AGI) dan potensinya untuk 'tindakan merugikan.' KTT Bletchley Park berfungsi sebagai jangkar yang tepat waktu untuk diskusi ini.

Dari perspektif filosofis, abstrak ini menyoroti ketegangan krusial: ancaman spekulatif, eksistensial dari AGI versus risiko yang lebih langsung dan nyata yang ditimbulkan oleh sistem AI yang diterapkan saat ini. Tujuan makalah untuk menyajikan studi kasus dalam robotika sosial sangat berharga di sini, menjanjikan untuk mendasarkan debat yang seringkali abstrak pada skenario konkret. Pendekatan pragmatis ini esensial untuk menjembatani kesenjangan antara diskusi filosofis teoretis dan tantangan praktis integrasi AI ke dalam masyarakat.

Secara kritis, abstrak ini membuka kembali diskusi seputar keagenan moral pada mesin, sebuah konsep yang dicatat telah 'banyak diabaikan' dengan klaim bahwa itu menimbulkan lebih banyak ancaman daripada mitigasi. Pengabaian ini sendiri membutuhkan pengawasan filosofis. Apakah pengabaian tersebut didasarkan pada kelemahan konseptual inheren, atau pada kesulitan praktis dan konsekuensi yang tidak diinginkan dari upaya awal untuk 'memberikan' moral? Menghidupkan kembali diskusi ini, terutama dengan mengaitkannya pada 'risiko nyata' daripada semata-mata pada momok superinteligensi, adalah langkah filosofis yang signifikan. Ini memaksa evaluasi ulang tentang apa arti 'keagenan moral' dalam konteks AI—apakah itu tentang pemrograman etis eksplisit, perilaku etis yang muncul, atau hanya penyelarasan keamanan yang kuat yang mencegah kerugian? Argumen implisit makalah ini adalah bahwa mungkin pendulum telah berayun terlalu jauh dalam mengabaikan utilitas konsep tersebut, dan bahwa pemahaman yang bernuansa tentang keagenan moral mungkin krusial untuk memitigasi risiko AI yang sangat nyata, meskipun non-AGI.

Abstrak ini menjanjikan untuk berkontribusi pada pemahaman yang lebih bernuansa tentang keamanan AI, menggeser fokus dari hipotetis apokaliptik ke tantangan etis masa kini, dan mengundang kembali percakapan filosofis yang diperlukan tentang kapasitas etis yang mungkin—atau mungkin tidak—perlu kita kembangkan dalam kreasi otonom kita.