ELON Musk and a group of artificial intelligence experts and industry executives are calling for a six-month pause in developing systems more powerful than OpenAI's newly launched GPT-4, in an open letter citing potential risks to society and humanity.
The letter, issued by the non-profit Future of Life Institute and signed by more than 1,000 people including Musk, called for a pause on advanced AI development until shared safety protocols for such designs were developed, implemented and audited by independent experts.
"Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable," the letter said.
The letter detailed potential risks to society and civilization by human-competitive AI systems in the form of economic and political disruptions, and called on developers to work with policymakers on governance and regulatory authorities.
Co-signatories included Stability AI CEO Emad Mostaque, researchers at Alphabet-owned DeepMind, as well as AI heavyweights Yoshua Bengio and Stuart Russell.
According to the European Union's transparency register, the Future of Life Institute is primarily funded by the Musk Foundation, as well as London-based effective altruism group Founders Pledge, and Silicon Valley Community Foundation.
The concerns come as EU police force Europol on Monday joined a chorus of ethical and legal concerns over advanced AI like ChatGPT, warning about the potential misuse of the system in phishing attempts, disinformation and cybercrime.
Meanwhile, the UK government unveiled proposals for an "adaptable" regulatory framework around AI.
The government's approach, outlined in a policy paper published on Wednesday, would split responsibility for governing artificial intelligence (AI) between its regulators for human rights, health and safety, and competition, rather than create a new body dedicated to the technology.
Musk, whose carmaker Teslais using AI for an autopilot system, has been vocal about his concerns about AI.
Since its release last year, Microsoft-backed OpenAI's ChatGPT has prompted rivals to accelerate developing similar large language models, and companies to integrate generative AI models into their products.
Sam Altman, chief executive at OpenAI, hasn't signed the letter, a spokesperson at Future of Life told Reuters. OpenAI didn't immediately respond to request for comment.
"The letter isn’t perfect, but the spirit is right: we need to slow down until we better understand the ramifications," said Gary Marcus, a professor at New York University who signed the letter. "They can cause serious harm... the big players are becoming increasingly secretive about what they are doing, which makes it hard for society to defend against whatever harms may materialize."
Reuters
Wed Mar 29 2023
![Musk, experts urge pause on AI systems, citing 'risks to society' Musk, experts urge pause on AI systems, citing 'risks to society'](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2023-03/71680084676_ChatGPT.jpg)
Since its release last year, Microsoft-backed OpenAI's ChatGPT has prompted rivals to accelerate developing similar large language models, and companies to integrate generative AI models into their products. - REUTERS
![Reman suspek kes keropok beracun disambung dua hari Reman suspek kes keropok beracun disambung dua hari](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-07/81721107133_keropokberacunrem.jpg)
Reman suspek kes keropok beracun disambung dua hari
Tempoh reman terhadap seorang pemilik kebun disambung selama dua hari, bagi membantu siasatan kematian dua kanak-kanak yang meninggal dunia akibat makan keropok beracun.
![Tidak perlu lagi kemas kini status COVID-19 dalam MySejahtera - KKM Tidak perlu lagi kemas kini status COVID-19 dalam MySejahtera - KKM](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-07/81721100784_TBmysj.jpg)
Tidak perlu lagi kemas kini status COVID-19 dalam MySejahtera - KKM
Jika positif COVID-19 melalui ujian kendiri, pesakit boleh mengunjungi klinik dan hospital berdekatan bagi mendapatkan pengesahan.
![Mayat hampir reput dijumpai di rumah usang Mayat hampir reput dijumpai di rumah usang](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2023-12/41702437730_maut.jpg)
Mayat hampir reput dijumpai di rumah usang
Mayat hampir reput ditemui di sebuah rumah usang di Kesang Laut, berdekatan pusat timbang Jabatan Pengangkutan Jalan (JPJ) pada Ahad.
Wanita dakwa dituduh Rafizi fail saman
Seorang wanita memfailkan saman terhadap Menteri Ekonomi, Rafizi Ramli bagi menuntut permohonan maaf secara terbuka berhubung dakwaan bahawa wanita berkenaan ialah isteri kepada bekas menteri yang dikaitkan dengan isu kapal tempur pesisir (LCS).
Bagaimanapun, Rafizi bergantung kepada pembelaan justifikasi berkata bersedia membuktikan kenyataan di mahkamah termasuk perlindungan bersyarat dan ulasan yang saksama terhadap saman fitnah yang difailkan oleh Zainab Mohd Salleh.
Bagaimanapun, Rafizi bergantung kepada pembelaan justifikasi berkata bersedia membuktikan kenyataan di mahkamah termasuk perlindungan bersyarat dan ulasan yang saksama terhadap saman fitnah yang difailkan oleh Zainab Mohd Salleh.
![Ahli Parlimen PN pakai reben putih di lengan tak langgar peraturan - Timbalan Speaker Ahli Parlimen PN pakai reben putih di lengan tak langgar peraturan - Timbalan Speaker](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-07/61721011336_PerikatanNasional.jpg)
Ahli Parlimen PN pakai reben putih di lengan tak langgar peraturan - Timbalan Speaker
Jelas Timbalan Yang Dipertua Dewan Rakyat itu, pendirian tersebut adalah keputusannya dan ia tidak dibuat oleh Yang Dipertua Dewan Rakyat, Tan Sri Johari Abdul.
![Trump umum Senator JD Vance sebagai calon Naib Presidennya Trump umum Senator JD Vance sebagai calon Naib Presidennya](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-07/81721107129_DonaldTrumpJDV.jpg)
Trump umum Senator JD Vance sebagai calon Naib Presidennya
Bekas Presiden Amerika Syarikat Donald Trump mengumumkan Senator Ohio JD Vance akan menjadi calon Naib Presidennya dalam pilihan raya 2024.
AWANI Ringkas: Pan Gon bakal umum letak jawatan hari ini?
Ikuti rangkuman berita utama yang menjadi tumpuan sepanjang hari di Astro AWANI menerusi AWANI Ringkas.
![iOS 18 tampil ciri kembalikan gambar, video yang hilang atau rosak iOS 18 tampil ciri kembalikan gambar, video yang hilang atau rosak](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-07/81721103714_iOS.jpg)
iOS 18 tampil ciri kembalikan gambar, video yang hilang atau rosak
Pada iOS 18, iPadOS 18 dan macOS Sequoia, Apple memperkenalkan ciri baharu yang membolehkan data yang hilang ini dikembalikan.
[TERKINI] Suspek kes pempengaruh Esha mengaku bersalah
Seorang pemandu lori berusia 43 tahun mengaku bersalah membuat kenyataan menyinggung perasaan terhadap mendiang empengaruh media sosial, A Rajeswary atau Esha di TikTok.
Projek HSR Jakarta-Bandung rekod 4 juta penumpang
Projek Kereta Api Laju (HSR) Jakarta-Bandung yang dikenali sebagai Whoosh membawa empat juta penumpang sejak ia beroperasi secara komersial pada 17 Oktober, tahun lalu.
![OpenAI umum lima tahap ke arah AGI, kini sudah di tahap dua OpenAI umum lima tahap ke arah AGI, kini sudah di tahap dua](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-05/51716455594_TBAGI.jpg)
OpenAI umum lima tahap ke arah AGI, kini sudah di tahap dua
Tahap 1 ialah chatbot seperti ChatGPT. Tahap 2 pula ialah sistem yang boleh menyelesaikan masalah asas pada tahap setanding pemegang PhD.
![Aplikasi ChatGPT untuk MacOS simpan perbualan tanpa sebarang penyulitan Aplikasi ChatGPT untuk MacOS simpan perbualan tanpa sebarang penyulitan](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-07/61720148626_tbOpenAI.jpg)
Aplikasi ChatGPT untuk MacOS simpan perbualan tanpa sebarang penyulitan
Mengikut semakan pembangun, OpenAI didapati menyimpan pelbagai data perbualan dan pertanyaan dalam teks biasa, tanpa sebarang penyulitan.
![Aplikasi ChatGPT ditawarkan untuk semua pengguna macOS Aplikasi ChatGPT ditawarkan untuk semua pengguna macOS](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-06/61719462649_AplikasiChatGPT.jpg)
Aplikasi ChatGPT ditawarkan untuk semua pengguna macOS
Dengan memasang aplikasi ChatGPT pada Mac, pengguna boleh lakukan akses pantas kepada ChatGPT dengan hanya tekan kekunci Option-Space.
![Meta tangguh pelancaran perisian kecerdasan buatan di Eropah Meta tangguh pelancaran perisian kecerdasan buatan di Eropah](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-03/41709656518_MetaPlatforms.jpg)
Meta tangguh pelancaran perisian kecerdasan buatan di Eropah
Gergasi media sosial Meta menangguhkan pelancaran perisian kecerdasan buatan (AI) terbarunya di Eropah berikutan kebimbangan daripada agensi perlindungan data.
![OpenAI tidak dibayar Apple sebaliknya akan lakukan perkongsian pendapatan OpenAI tidak dibayar Apple sebaliknya akan lakukan perkongsian pendapatan](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-06/41718268723_OpenAIApple.jpg)
OpenAI tidak dibayar Apple sebaliknya akan lakukan perkongsian pendapatan
Ramai yang tertanya-tanya apakah bayaran yang diterima oleh
![Apple integrasikan ChatGPT pada iOS, iPadOS dan macOS secara percuma Apple integrasikan ChatGPT pada iOS, iPadOS dan macOS secara percuma](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-06/41718079354_AppleChatGPT.jpg)
Apple integrasikan ChatGPT pada iOS, iPadOS dan macOS secara percuma
ChatGPT ditawarkan secara percuma melalui penawaran Applen ini, di mana pengguna tidak perlu melakukan sebarang pendaftaran akaun atau langganan.
![Pengguna percuma ChatGPT kini boleh akses GPT, muat naik fail Pengguna percuma ChatGPT kini boleh akses GPT, muat naik fail](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-06/61717213570_ChatGPT.jpg)
Pengguna percuma ChatGPT kini boleh akses GPT, muat naik fail
Walau bagaimanapun, buat masa ini, pengguna versi percuma tidak boleh menghasilkan GPT mereka tersendiri.
![AGI tidak boleh dicapai jika hanya guna LLM - Meta AGI tidak boleh dicapai jika hanya guna LLM - Meta](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-05/51716455594_TBAGI.jpg)
AGI tidak boleh dicapai jika hanya guna LLM - Meta
Dalam temu bual bersama Financial Times, LeCun berkata LLM hanya sekadar mempunyai kepintaran setanding seekor kucing.
![Reddit, OpenAI umum kerjasama, kandungan akan diintegrasikan dalam ChatGPT Reddit, OpenAI umum kerjasama, kandungan akan diintegrasikan dalam ChatGPT](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-05/71715928454_TBReddit.jpg)
Reddit, OpenAI umum kerjasama, kandungan akan diintegrasikan dalam ChatGPT
Dalam pengumuman kerjasama ini, Reddit menjelaskan yang data-data dan kandungan merekan akan diintegrasikan ke dalam ChatGPT. Dengan
![Pengguna ChatGPT percuma boleh guna GPTs, GPT Store Pengguna ChatGPT percuma boleh guna GPTs, GPT Store](https://resizer-awani.eco.astro.com.my/tr:w-177,h-100,q-100,f-auto/https://img.astroawani.com/2024-05/61715665733_ChatGPT.jpg)
Pengguna ChatGPT percuma boleh guna GPTs, GPT Store
Pengguna percuma juga boleh memuat naik dokumen dan meminta ChatGPT untuk merumuskannya.