Президент на Microsoft: 1984 г. на Оруел може да се случи през 2024 г.

Публикувано 27 май Дял

Животът, както е описан в Джордж Оруел от 1984 г., „може да се осъществи през 2024 г.“, ако законодателите не защитят обществото от изкуствен интелект, предупреди президентът на Microsoft.

В разговор с „Панорама“ на Би Би Си Брад Смит каза, че ще бъде „трудно да се наваксат“ с бързо напредващите технологии.

Програмата изследва нарастващото използване на изкуствен интелект в Китай за наблюдение на своите граждани.

Критиците се опасяват, че доминирането на държавата в района може да застраши демокрацията.



Ако не приемем законите, които ще защитят обществеността в бъдеще, ще открием, че технологията напредва и ще бъде много трудно да се навакса“, каза г-н Смит.

надпис на изображениетоПрезидентът на Microsoft Брад Смит коментира BBC Panorama

„Постоянно ми се припомнят уроците на Джордж Оруел в неговата книга от 1984 г. Знаете основната история ... беше за правителство, което можеше да види всичко, което всички правеха, и да чува всичко, което всеки казваше през цялото време.

„Е, това не се случи през 1984 г., но ако не внимаваме, това може да се случи през 2024 г.“ Китайски ИИ

В някои части на света реалността все повече догонва този възглед за научната фантастика, добави той.

Амбицията на Китай е да стане световен лидер в AI до 2030 г. и мнозина смятат, че способностите му са далеч извън ЕС.

• През 2019 г. Китай победи САЩ по броя на патентите, осигурени от академичните институции за иновации в AI технологиите.

• 54% от световните 770 милиона камери за видеонаблюдение са в Китай, според проучване на Comparitech.

Ерик Шмид, бивш главен изпълнителен директор на Google, който сега е председател на Американската комисия за национална сигурност по изкуствен интелект, предупреди, че биенето на Китай в AI е наложително.

"Ние сме в геополитически стратегически конфликт с Китай", каза той. „Начинът да спечелим е да обединим нашите ресурси заедно, за да имаме национални и глобални стратегии за победа на демокрациите в AI.

„Ако не го направим, ще гледаме бъдеще, където ще ни бъдат наложени други ценности.“

  надпис на изображениетоД-р Ерик Шмид председателства Американската комисия за национална сигурност по изкуствен интелект.

Д-р Лан Сю, който съветва китайското правителство, каза, че разпознаването на лица може да се окаже „изключително полезно“ при идентифицирането на хората при масови събирания, ако има „голяма авария“.

„Китай наистина е постигнал огромен напредък в технологичното развитие“, добави д-р Сюе. "[САЩ] смята, че това е заплаха ... и те искаха да започнат тази Студена война за технологиите."

Въпреки че Китай има "огромни различия" в своите ценности и политика, "визията на страната за света не е сближаване, а съвместно съществуване", каза д-р Keyu Jin, доцент в Лондонското училище по икономика.

"Китай не се стреми да изнася своите ценности", добави тя.

Проект Maven

Д-р Шмид стана съветник на Пентагона през 2016 г., като същевременно запази позицията си на изпълнителен председател на Alphabet, компанията майка на Google.

През следващите години Google стартира договор с Пентагона, като му позволи да използва някои от своите технологии за разпознаване на изображения като част от военен проект.

 

Project Maven използва машинно обучение, за да различава хора и предмети в видеоклипове с дронове.

„По това време Maven беше ... начин за замяна на човешките очи чрез автоматично виждане на кадрите с дронове, използвани в различните арабски конфликти“, каза д-р Шмид. „Разгледах използването на тази технология като нетно положително за националната сигурност и добро партньорство за Google.“

"Кръв по ръцете ми"

Но проектът получи критики от служители на Google, които подадоха оставки и подадоха петиция срещу проекта.

„Google не трябва да участва във военния бизнес“, каза софтуерният инженер Лора Нолан, която подаде оставка през 2018 г., когато откри естеството на проекта, по който работи Google. "Чувствах се сякаш имам кръв по ръцете си."

Тя твърди, че технологията може да се използва при бъдещи решения за насочване.

Google обаче заяви, че нейният AI ще се използва само за не обидни цели, преди напълно да се оттегли от Project Maven през юни 2018 г.

Д-р Шмит каза, че смята, че технологиите, които могат да помогнат на военните да вземат правилните решения, са "добро нещо".

AI надпревара във въоръжаването

Но Министерството на отбраната продължава да търси партньорства в Силициевата долина, в опит да спечели световната надпревара за въоръжаване на AI.

Сет Моултън, председател на Оперативната група за бъдещето на отбраната на САЩ, призовава технологичните компании да подкрепят Министерството на отбраната.

„Тъй като участваме в състезание, тъй като участваме в това състезание, всъщност се свежда до това“, каза той. „Ще ни помогнете ли да спечелим това състезание или по същество ще бъдете срещу нас?

„Китай няма същата система на управление като нас.

"Може ли надпреварата за въоръжаване с изкуствен интелект да доведе до конфликт с Китай? Абсолютно."

Д-р Xue се съгласи, че има потенциал за конфликт: "Но това не е неизбежно - САЩ и Китай трябва наистина да си сътрудничат, за да предотвратят това."

Може ли черният списък на китайските шампиони по изкуствен интелект да се обърне?

 

Публикувано 8 октомври 2019 г.

Пентагонът използва технологията на Google "за своите дронове"
 

Публикувано 7 март 2018 г.

Т

ехническите експерти предупреждават за AI на убиеца

• Публикувано29 юли 2015 г