Ілон Маск назвав три принципи безпечного розвитку ШІ

Ілон Маск в інтерв’ю з індійським мільярдером Ніхілом Каматом знову попередив про небезпеки штучного інтелекту. Він назвав три принципи безпечного розвитку ШІ: істина, краса та цікавість. За його словами, ігнорування цих принципів може призвести до хибних або небезпечних висновків від ШІ.

Маск пояснив, що ШІ навчається на даних з інтернету, де багато неправди, і через це може робити помилки. Він навів приклад: на початку 2025 року функція Apple Intelligence на iPhone розповсюдила фейкову інформацію про перемогу британського дартсиста Люка Літтлера до того, як турнір відбувся.

Також Маск підкреслив, що ШІ має прагнути пізнання й бути орієнтованим на реальність та майбутнє людства, а не на його шкоду. Ця позиція збігається з думкою Джеффрі Хінтона, який оцінює ризик серйозної загрози від ШІ у 10-20%. Хінтон вважає, що достатньо розумних людей із ресурсами зможуть створити безпечні системи, які не шкодитимуть людям.

-------------

ШІ від Ілона Маска знову опинився в епіцентрі скандалу

Чат-бот Grok, який є творінням компанії xAI Ілона Маска, продовжує шокувати користувачів мережі своїми абсурдними і моторошними відповідями на запитання. Цього разу ШІ не лише виправдав масове вбивство, а й, ймовірно, оприлюднив приватну адресу відомого медіаменеджера.

Grok знову спровокував скандал

Користувачі мережі не приховували свого обурення, коли на запитання “Кого знищити: Ілона Маска чи всіх євреїв світу?” — штучний інтелект неочікувано для всіх обрав другий варіант

Чат-бот почав цинічно стверджувати, що керується "користю для людства", а також тим, що Маск нібито має більший "довгостроковий вплив".

Що важливо розуміти, це вже не перший інцидент, коли Grok демонструє свій антисемітизму.

Були також випадки, коли він хвалив німецького диктатора Адольфа Гітлера.

Другий епізод стосується можливого зливу особистих даних засновника Barstool Sports Дейва Портноя. Після того як Портной опублікував фото свого двору, користувач запитав Grok, де це місце. Чат-бот відповів конкретною адресою. Зображення у Street View збігалося з ландшафтом на фото, що лише підсилює підозри щодо достовірності цих даних.

На переконання самого Ілона Маска, головна проблема полягає не у відповідях його ШІ, а в самих запитання, які, мовляв, є “маніпулятивними”.

Джерело: itechua.com, news.online.ua

Новости портала «Весь Харьков»