Jangan Percaya Pada Propaganda Keupayaan AI – Ahli Matematik

Puluhan pakar matematik menandatangani satu deklarasi pada hari Selasa yang menggesa bidang disiplin tersebut agar tidak terus-menerus mempromosikan atau menyokong para pembangun kecerdasan buatan (AI).

“Deklarasi Leiden” yang disokong oleh lebih 150 profesor dari seluruh dunia termasuk Eropah, Jepun, dan Amerika Syarikat (AS) itu memberi amaran kepada pihak kerajaan agar “jangan percaya propaganda atau publisiti melampau (hype)” mengenai keupayaan sistem tersebut terutamanya dalam menyelesaikan ilmu matematik.

Campur tangan mereka ini menyusul selepas firma-firma AI mendakwa produk mereka mempunyai keupayaan yang semakin meningkat, termasuk prestasi cemerlang dalam pertandingan elit antarabangsa serta kononnya berjaya menyelesaikan soalan-soalan terbuka yang rumit dalam bidang tersebut.

AI “membuka peluang baharu yang menarik, namun ia juga menimbulkan persoalan yang tidak boleh dibiarkan begitu sahaja tanpa diperiksa,” tulis Naib Presiden Kesatuan Matematik Antarabangsa (IMU), Ulrike Tillmann, dalam satu kenyataan sokongan.

Pembangun AI menghadapi “insentif komersial yang kuat… untuk memperbesar-besarkan keupayaan produk mereka,” menurut deklarasi tersebut.

Dikeluarkan berdasarkan “garis masa pasaran” dan bukannya mengikut rentak sains yang disemak oleh manusia (human-reviewed science), publisiti AI boleh “menyalahgunakan tugas matematik yang spesifk secara mengelirukan sebagai ukuran bagi keupayaan penaakulan umum model komersial tersebut,” tambahnya lagi.

Dengan ratusan bilion dolar tunai daripada pelabur menjadi rebutan, syarikat-syarikat kini sedang bertungkus-lumus untuk menggambarkan model AI mereka dalam keadaan yang paling hebat.

Dalam beberapa hari kebelakangan ini, SpaceX — firma roket milik Elon Musk yang merangkumi anak syarikat xAI — dan Anthropic telah mengorak langkah ke arah penyenaraian di pasaran saham, manakala OpenAI yang menjadi peneraju industri dipercayai mengekor rapat di belakang.

Baru minggu lepas, OpenAI menerbitkan sebuah video di media sosial yang memaparkan Profesor UCLA, Terence Tao — bekas pemenang Pingat Fields yang berprestij daripada IMU — memuji potensi produk syarikat itu dalam menyokong penyelidikan.

Tao ialah “seorang yang sangat murah hati, beliau banyak menyumbang kepada bidang matematik, tetapi ia adalah sesuatu yang tidak sihat… untuk terus berpaling kepada orang yang sama seolah-olah individu tersebut adalah satu-satunya suara bagi mewakili bidang matematik,” kata Harris.

Selain risiko matematik dipergunakan demi keuntungan komersial, para pengarang deklarasi menyatakan bahawa sistem AI boleh menghasilkan pembuktian yang kelihatan munasabah tetapi sebenarnya salah, di mana ia sukar untuk disahkan oleh manusia.

Ia juga boleh menjejaskan pengiktirafan dan kredit yang sepatutnya diberikan kepada penyelidik asal yang kerjanya telah digunakan oleh sistem itu.

Mereka bimbang peningkatan penggunaan AI dalam matematik boleh menggalakkan penyelidikan yang hanya mengikut aliran semasa bagi mengambil kesempatan atas alatan baharu ini, sehingga mengabaikan masalah matematik yang lain.

Ia juga boleh memintas sistem semakan sejawat (peer review) dan meletakkan penyelidik di bawah telunjuk pembangun AI, berbanding kebebasan menjalankan kajian sendiri seperti yang diamalkan di universiti.

AI juga mempunyai potensi kemudaratan dalam bentuk “peperangan, pengawasan besar-besaran, gangguan politik, dan kerosakan alam sekitar,” tulis para pengarang.

Mereka mendesak individu pakar matematik untuk “menilai kesan etika daripada penyelidikan anda, dan jika perlu, menarik diri daripada tugasan yang membawa kemudaratan.” – AFP.

{suggest}

Jangan Percaya Pada Propaganda Keupayaan AI – Ahli Matematik WISER.MY.