Pemimpin Bisnis Tetapkan A.I. Jadwal acara

Apa langkah paling penting yang dapat dilakukan komunitas teknologi untuk menanamkan kepercayaan pada kecerdasan buatan?
Ashton B. Carter

Direktur, Pusat Ilmu Pengetahuan dan Hubungan Internasional Belfer, Sekolah Harvard Kennedy; Menteri Pertahanan ke-25

Pada 2013, ketika saya menjadi pejabat No. 2 D. D. D., saya mengeluarkan arahan kebijakan tentang senjata otonom yang masih berlaku. AS mengambil nilai-nilainya ke medan perang, dan arahan mengatakan bahwa manusia harus terlibat dan bertanggung jawab atas keputusan yang dibantu oleh A.I. untuk menggunakan senjata mematikan. Kompas moral yang sama harus mengatur aplikasi komersial A.I., seperti peringkat kredit, hukuman penjara dan privasi. Akuntabilitas membutuhkan transparansi. Setelah seumur hidup dalam pengembangan teknologi, saya percaya bahwa transparansi demi akuntabilitas harus menjadi persyaratan desain teknis untuk A.I. algoritma.

Rana el Kaliouby

Salah satu pendiri dan kepala eksekutif, Affectiva

Hari ini, A.I. adalah orang-buta. Tentu, itu bisa “melihat” kita, tetapi sama sekali tidak menyadari bagaimana perasaan kita. Dan saat kita berinteraksi dengan teknologi, semua nuansa dan kekayaan perasaan kita lenyap di dunia maya. Itu adalah penghalang besar dalam hal membangun kepercayaan dan komunikasi – tidak hanya antara orang dan A.I., tetapi juga dengan orang lain. Bagaimana kita bisa percaya pada teknologi yang menghilangkan apa yang membuat kita menjadi manusia?

A.I. harus dapat memahami semua hal manusia, dan benar-benar berhubungan dengan kita, jika kita akan mempercayainya. Ini sangat penting sebagai A.I. mengambil peran baru dalam masyarakat, dan interaksi kami dengan A.I. menjadi lebih relasional dan pribadi. Tapi kepercayaan adalah jalan dua arah. A.I. harus dapat mempercayai orang lain juga – untuk menjadi rekan kerja yang baik, membuat keputusan yang tepat dan menggunakan teknologi secara etis. Ini hanya mungkin jika A.I. dapat memahami emosi dan ekspresi yang merupakan inti dari siapa kita.

Danika Laszuk

Manajer umum, Betaworks Camp

Komunitas teknologi perlu mulai memperhatikan etika teknologi yang mereka ciptakan dengan lebih serius. Misalnya, pertumbuhan A.I. dan teknologi 5G akan mulai menciptakan pasar baru dan, sepertinya, seluruh industri begitu dikembangkan lebih lanjut. Teknologi web baru seperti blockchain memiliki potensi untuk menciptakan internet yang lebih demokratis dan lebih aman, di mana pengguna memiliki lebih banyak kontrol dan akuntabilitas didistribusikan secara lebih adil.

Meningkatnya baru-baru ini di media sintetis dan alat augmented reality menarik dan juga alasan untuk mengambil langkah mundur. Melalui model Instagram yang dibuat secara digital seperti Lil Miquela, dunia konsumen Fortnite dan normalisasi orang yang berkomunikasi secara teratur dengan alat-alat non-manusia seperti Alexa, sebuah realitas sintetik telah lahir di mana pengalaman manusia kita ditingkatkan, ditambah dan ditantang oleh interaksi kita dengan mesin cerdas .

Tristan Harris

Co-founder dan direktur eksekutif, Pusat Teknologi Manusiawi

Satu-satunya cara paling penting untuk menanamkan kepercayaan pada A.I.s adalah untuk menyelaraskan model bisnis mereka dengan ekologi para pemangku kepentingan, dan dengan memastikan bahwa mereka beroperasi melalui menginternalisasi risiko yang mungkin terjadi dan membahayakan ke dalam pengambilan keputusan mereka. Tekno-utopia sering membuat kesalahan dengan membayangkan kebaikan A.I yang secara misterius keluar dari laboratorium untuk menyelesaikan masalah kita, sambil mengabaikan bagaimana model bisnis perusahaan yang menciptakannya terkendala oleh insentif buruk. Jika dampak negatif Facebook selama setahun terakhir telah mengajarkan kita sesuatu, itu adalah bahwa kita tidak boleh meremehkan kerusakan yang diciptakan oleh model bisnis yang tidak selaras.

Dov Seidman

Pendiri dan kepala eksekutif, LRN

Bisnis bisnis bukan lagi sekadar bisnis. Bisnis bisnis sekarang adalah masyarakat. Dunia menyatu, dan kita tidak bisa lagi mempertahankan netralitas. Karena itu, tidak dapat dihindari untuk bertanggung jawab atas apa yang memungkinkan teknologi dan bagaimana teknologi itu digunakan. Memulihkan kepercayaan akan membutuhkan lebih dari sekadar perangkat lunak.

Kita perlu meningkatkan “moralware” melalui kepemimpinan yang dipandu oleh nilai-nilai terdalam kita dan memastikan bahwa teknologi memenuhi janjinya: meningkatkan kemampuan kita, memperkaya kehidupan, benar-benar menyatukan kita, dan membuat dunia lebih terbuka dan setara. Ini berarti melihat lebih dari “pengguna” dan “klik” tetapi orang sungguhan, yang layak akan kebenaran dan dapat dipercaya untuk membuat pilihan sendiri berdasarkan informasi mereka.

Meredith Whittaker

Co-founder dan co-director, AI Now Institute

Sulit memercayai apa yang tidak bisa Anda lihat atau validasi. A.I. teknologi tidak terlihat oleh sebagian besar dari kita, tersembunyi di balik kerahasiaan perusahaan dan diintegrasikan ke dalam proses back-end, dikaburkan dari orang-orang yang paling mereka pengaruhi. Ini, bahkan seperti A.I. sistem semakin ditugasi dengan keputusan signifikan secara sosial, dari siapa yang dipekerjakan hingga yang mendapat jaminan sekolah mana yang diizinkan untuk dihadiri anak Anda. Kami sangat membutuhkan cara untuk meminta A.I., dan mereka yang mendapat untung dari pengembangannya, bertanggung jawab kepada publik. Ini harus mencakup audit dan pengujian eksternal yang dilakukan oleh subjek A.I. infrastruktur dan proses perusahaan untuk pengawasan dan validasi yang dapat dipertanggung jawabkan secara publik.

Ini juga harus melibatkan masyarakat lokal, memastikan mereka yang paling berisiko bahaya memiliki suara dalam menentukan kapan, bagaimana atau apakah sistem tersebut digunakan. Sementara membangun landasan kepercayaan ini akan membutuhkan kerja sama komunitas teknologi, taruhannya terlalu tinggi untuk bergantung pada partisipasi sukarela. Regulasi hampir pasti akan diperlukan, karena apa yang diperlukan akan memerlukan perubahan struktural besar pada norma-norma industri “peluncuran, iterate, dan untung”.

Deep Nishar

Mitra pengelola senior, Dana Visi SoftBank

A.I. sistem harus membantu kemanusiaan, bukan mengancamnya – memungkinkan kita untuk membebani tugas-tugas rumit demi kegiatan yang lebih bermakna. Sistem cerdas sudah membantu kami menemukan bahan ramah lingkungan baru, membantu dokter dengan keputusan perawatan, membuat lini produksi pabrik lebih efisien dan mempercepat penemuan obat. Pandangan kita harus menjadi optimisme, bukan ketakutan.

Sara Menker

Pendiri dan kepala eksekutif, Gro Intelligence

Kepercayaan hanya dapat dibangun jika ada transparansi dan akuntabilitas. Komunitas teknologi perlu bersatu dan menciptakan kerangka kerja yang memungkinkan transparansi sambil menghormati I.P. dan kemampuan model untuk belajar, berkembang dan terus berubah. Transparansi adalah langkah pertama menuju akuntabilitas, dan akuntabilitas sangat penting terutama dalam bidang-bidang seperti kesehatan, makanan, dan pendidikan di mana A.I. bisa juga bersifat transformasional.

Adena Friedman

Presiden dan kepala eksekutif, Nasdaq

Seperti kata pepatah, kepercayaan diperoleh, bukan diberikan. Pengalaman kami di pasar modal telah menunjukkan bahwa transparansi adalah salah satu kunci kepercayaan. Untuk membangun kepercayaan, mereka yang menerapkan A.I. untuk menciptakan kemampuan baru harus mempertimbangkan berapa banyak untuk dibagikan – dengan klien mereka dan pemangku kepentingan lainnya – tentang input yang digunakan, logika di dalam dan hasil akhir dari alat pembelajaran mesin mereka. Tujuan untuk mendapatkan kepercayaan haruslah untuk menghilangkan proses penciptaan kemampuan baru, bukan untuk memperlakukannya seperti keajaiban baru yang tidak dapat dipahami oleh klien. Pandangan saya adalah bahwa A.I., jika disediakan dengan transparansi, pada akhirnya akan memungkinkan semua industri untuk memanfaatkan yang terbaik dari manusia dan mesin bersama-sama untuk menciptakan solusi yang lebih baik, lebih aman dan lebih cerdas bagi pelanggan.

Reid Hoffman

Rekan pendiri dan ketua eksekutif, LinkedIn; mitra, Mitra Greylock

Sangat penting untuk secara signifikan mendanai penelitian dan pengembangan di A.I. keamanan – sehingga hasil dari A.I. akan memiliki hasil yang sangat positif untuk kemanusiaan dan mengandung risiko. A.I. keamanan akan mencakup transparansi pada algoritma dan proses. A.I. keamanan akan mencakup teknik untuk memahami keadilan dan keadilan dari kumpulan data yang digunakan untuk membangun pembelajaran mesin. Dan A.I. keselamatan akan memiliki pemahaman yang baik tentang parameter operasi mesin. Industri harus bekerja sama dalam A.I. keamanan, untuk memaksimalkan hasil bagi dunia.

Leave a Reply

Your email address will not be published. Required fields are marked *