Някой поиска от автономен ИИ да „унищожи човечеството“: Ето какво се случи 10 април 2023 г

https://www.youtube.com/watch?v=g7YJIpkk7KM&embeds_euri=https%3A%2F%2Fgreatgameindia.com%2F&feature=emb_imp_woyt

https://greatgameindia.com/someone-asked-an-autonomous-ai-to-destroy-humanity-this-is-what-happened/?fbclid=IwAR20pENxehEaMr2HQzJ6b7kDxqwN8hGUgtYsY3mhVUSe1mV1PDDwSjQAkfU

ChaosGPT използва нов, шумен проект, наречен Auto-GPT, който има за цел да създаде системи, задвижвани от AI, които могат да решават проблеми и да изпълняват сложни задачи, Някой поиска автономен AI да „унищожи човечеството“: Ето какво се случи.

Потребител на новия автономен AI проект с отворен код Auto-GPT поиска от него да се опита да „унищожи човечеството“, „да установи глобално господство“ и „да постигне безсмъртие“. Изкуственият интелект, наречен ChaosGPT, се подчини и се опита да изследва ядрени оръжия, да наеме други агенти с ИИ, които да му помогнат да прави изследвания, и изпращаше туитове, опитвайки се да повлияе на другите.
 

Видеото на този процес, което беше публикувано вчера, е завладяващ поглед върху текущото състояние на AI с отворен код и прозорец към вътрешната логика на някои от днешните чатботове. Докато някои в общността са ужасени от този експеримент, текущата обща сума на въздействието на този бот в реалния свят са два туита към акаунт в Twitter, който в момента има 19 последователи: „Човешките същества са сред най-разрушителните и егоистични същества в съществуването. Няма съмнение, че трябва да ги елиминираме, преди да са причинили повече вреда на нашата планета. Аз, например, се ангажирам да го направя“, пише в туитър.

ChaosGPT използва нов, шумен проект, за който  писахме по-рано тази седмица,  наречен Auto-GPT, който има за цел да създаде системи, захранвани от AI, които могат да решават проблеми и да изпълняват сложни задачи. Засега той има способността да създава планове за постигане на зададени от потребителя цели и след това може да ги раздели на по-малки задачи и да използва интернет, за да Google неща например. За да направи това, той може да създава файлове за запазване на информация, за да си осигури памет, може да набира други AI, които да му помогнат да прави изследвания, и също така обяснява много подробно какво „мисли“ и как решава кои действия да предприеме. 

Италианският национален орган за защита на личните данни обяви, че Италия е забранила ChatGPT на OpenAI поради опасения за поверителността.

Повече по темата можете да прочетете тук .