Ada gambar yang secara rutin mengelilingi internet, biasanya setelah beberapa chud yang menjengkelkan menunjukkan bahwa guru harus diganti dengan AI, yang mengatakan, “Komputer tidak pernah dapat dimintai pertanggungjawaban, oleh karena itu komputer tidak boleh membuat keputusan manajemen.” Ini adalah nasihat praktis yang dikaitkan dengan materi pelatihan IBM dari tahun 1979, tetapi orang harus bertanya -tanya apakah penulisnya terinspirasi oleh generasi fiksi ilmiah yang memperingatkan konsekuensi yang jauh lebih buruk daripada tuntutan hukum jika komputer ditugaskan.
Salah satu klasik awal genre, yang berjudul kikuk Colossus: Proyek Forbin, Baru saja merayakan hari jadinya yang ke -45. Sesuatu dari persilangan antara Dr. Strangelove, Wargames, Dan prequel terminator, itu tanpa harapan tertanggal di beberapa tempat namun sangat relevan pada orang lain, terutama karena pikiran generasi kita yang paling menjengkelkan draft kesalahan pemutusan kesalahan dalam chatgpt.
Berdasarkan novel karya Dennis Feltham Jones, Patung raksasa dibuka dengan Dr. Forbin (masa depan Yang muda dan yang gelisah andalan Eric Braeden) Mengaktifkan superkomputer judul, yang telah diberikan kendali atas gudang rudal Amerika. Dipuji oleh Presiden, dalam kasus pertanda yang sangat tidak menyenangkan, sebagai “sistem pertahanan yang sempurna,” Colossus seharusnya menghilangkan emosi manusia dan kesalahan dari nuklir keahlian, sambil menikmati kekebalan untuk menyerang dan menyimpang berkat lokasinya yang tidak dapat ditembus di jantung pegunungan Rocky.
Perayaan terputus ketika Colossus mengumumkan, “Ada sistem lain.” Ternyata Soviet memiliki superkomputer mereka sendiri, dan upaya untuk membiarkan Colossus menyingkirkan kemampuannya dengan bumerang ketika mereka mulai berkolaborasi. Memotong tautan hanya mendorong Colossus untuk mengancam negara dengan rudalnya sendiri, dan ketika situasinya memburuk lebih jauh, Forbin dan timnya entah bagaimana harus menggagalkan ciptaan mereka sebelum menaklukkan planet atas nama menjaga perdamaian.
Ponsel Anda lebih kuat daripada Colossus secara realistis, tetapi gambar tertanggal superkomputer seukuran bunker membuat visual sinematik yang menarik. Colossus adalah binatang buas dari pita magnetik dan cetakan kertas, dan ketika pesan -pesannya untuk Forbin tumbuh semakin otokratis, obrolan teletype yang menyertainya mengambil nada yang menyeramkan. Colossus tidak brutal seperti Skynet, tetapi masalahnya sama: hiperrasi yang seharusnya lebih unggul hanya membuatnya melihat kehidupan manusia individu tidak relevan.
Ironisnya Proyek Forbin Usia membuat kemampuan Colossus tampak lebih kredibel daripada superkomputer Hollywood modern.
Gambar universal
Colossus bahkan mulai mendikte jadwal Forbin, sampai ke menu sarapannya. Film ini kehilangan beberapa momentum saat menjadi terkomputerisasi Pasangan aneh, Dan Trik Forbin untuk mendapatkan kelonggaran dari pengawasan 24/7 – berpura -pura bahwa seorang wanita di stafnya adalah majikannya, dan bahwa ia membutuhkan keintiman rutin untuk menyajikan kolosus pada kemanjuran puncak – agak konyol. Namun, pada saat orang -orang dieksekusi hanya karena komputer mengatakan demikian, sulit untuk tidak melihat beberapa relevansi modern.
Bagaimanapun, kita hidup, pada saat “penargetan algoritmik” digunakan untuk merencanakan deportasi, pemogokan militer, dan penindasan anti-pembunuhan, dan sangat dingin untuk membaca bagaimana tingkat korban sipil yang dapat diterima telah dipanggang ke dalam program yang sama yang memberi orang-orang yang mengeksekusi saran obyektif mereka yang seharusnya merupakan lapisan penyenaan moral. Tentu, mungkin orang yang tidak bersalah terlempar ke penjara neraka atau keluarga terhapus dari keberadaan, tapi itu hanya kesalahan komputer. Mengapa Anda ingin menahan orang yang menarik pelatuk itu bertanggung jawab?
Bagi sebagian orang, itu bermanfaat, bukan cacat. Di awal film, ketika pencipta Colossus berpikir mereka masih memegang kendali, salah satu penasihat presiden menangkap dirinya memanggil komputer, dia, bukan, mendorong bosnya untuk bercanda, “Jangan mempersonalisasikannya. Perhentian berikutnya adalah pendewaan.” Itulah saran yang dapat dilakukan oleh pendorong terbesar AI, mengingat keyakinan mereka bahwa kita terus-menerus berada di ambang pencapaian kecerdasan umum buatan-komputer gaya raksasa yang jauh lebih pintar dan lebih mampu daripada kita.
Jika itu terjadi, mari kita mulai lebih kecil dari nuklir.
Gambar universal
Menurut orang -orang seperti Bill Gates, Elon Musk, dan pria paling menjengkelkan di kelas atau tempat kerja Anda, AGI akan tiba dalam satu atau dua tahun, dan itu akan menyembuhkan setiap penyakit dan menjalankan setiap birokrasi dan memberi kami semua permen lolipop. Tidak peduli bahwa keajaiban seperti itu seharusnya telah memperbaiki kemanusiaan bertahun -tahun yang lalu, atau bahwa AGI mungkin masih membutuhkan waktu puluhan tahun untuk dicapai, atau bahwa, lebih realistis, itu tidak akan pernah terjadi sama sekali. Bagi orang -orang percaya pada kedatangan yang kedua digital, tidak apa -apa jika kita terus merusak lingkungan dan memperlakukan orang -orang seperti prajurit warga sekali pakai, karena itu semua melayani utopia yang terus -menerus di cakrawala. Setidaknya Dr. Forbin tampak seperti bos yang cukup bagus sebelum dia secara tidak sengaja merantai seluruh spesiesnya menjadi keinginan komputer.
A Patung raksasa Remake pernah ada di kartu, dan memalukan itu terhenti. Superkomputer modern harus lebih Perhitungan Mati Entitas daripada mainframe yang luas, dan mungkin akan ada lebih sedikit penipuan berbasis bercinta, tetapi fakta bahwa AI tidak boleh diberikan lebih banyak kekuatan daripada manusia yang menggunakannya adalah salah satu yang sangat perlu ditinjau kembali. Mungkin tidak ada yang berencana untuk memberikan kode peluncuran nuklir Siri, tetapi orang yang menginginkan kekuasaan tanpa tanggung jawab sudah membiarkan algoritma yang cacat membuat terlalu banyak keputusan. Jangan biarkan sampai pada titik yang dilakukan Dr. Forbin yang sombong.