Facebook пуска първото си AI модул "Thought Crime"

29 ноември 2017 г. Шон Адл-Табатабай Новини , САЩ 2

http://yournewswire.com/facebook-ai-thought-crime/

Facebook пусна нов модул "мисловна престъпност", насочен към разкриване на отрицателни мисли на потребител и предупредителни органи. 

Новата технология за изкуствено разузнаване "проактивно откриване" ще сканира публикациите на потребителите във Facebook и ще открие модели, които показват самоубийствени мисли. Тогава ще изпрати ресурсите за психичното здраве на потребителя, както и да предупреди своите приятели и семейството си и в крайни случаи да се обади на властите без разрешение.

Отчетите на Techcrunch.com : Използвайки AI, за да сигнализирате за обезпокоителни публикации на хора, вместо да чакате потребителски отчети, Facebook може да намали колко време е необходимо, за да изпратите помощ.

Facebook вече контролират с помощта на изкуствен интелект за откриване на тревожни съобщения и по-видимо на повърхността опции за самоубийство отчитане на приятели в САЩ сега Facebook е да излъскване всички типове съдържание в целия свят с това AI, с изключение в Европейския съюз, където Общ регламент за защита на данните законите за поверителност върху профилирането на потребители въз основа на чувствителна информация усложняват използването на този технология.

Facebook също ще използва AI, за да даде приоритет на особено рискови или неотложни доклади за потребителите, така че те да бъдат по-бързо адресирани от модераторите, както и инструменти за незабавно оразмеряване на местните езикови ресурси и информация за контакти за първи отговор. Тя също така посвещава повече модератори на превенция на самоубийствата, обучава ги да се занимават с делата 24/7 и сега има 80 местни партньори като Save.org, ,

"Това е да се отделят минути на всеки етап от процеса, особено във Facebook Live", казва Вицепрезидентът за управление на продуктите Guy Rosen. През изминалия месец от тестовете, Facebook е инициирало повече от 100 "чек-инфекции", при които посетителите са посетили засегнатите потребители. "Има случаи, когато първият отговор е пристигнал и човекът все още излъчва."

Идеята на Facebook за проактивно сканиране на съдържанието на публикациите на хората би могла да предизвика известни страхове от дистпопа за това как иначе технологията може да бъде приложена. Facebook нямаше отговори как ще избегне сканирането за политическо несъгласие или дребна престъпност, като Роузън само каза, че "имаме възможност да помогнем тук, за да инвестираме в това". Със сигурност има огромни полезни аспекти за но това е друго пространство, където нямаме друг избор освен да се надяваме, че Facebook не отива твърде далеч.

[Актуализация: Главният офицер по сигурността на Facebook Алекс Стамос отговори на тези опасения с удоволствие от чуруликането, че Facebook прави сериозно отговорно използване на AI.

  Alex Stamos   ✔@alexstamos  

The creepy/scary/malicious use of AI will be a risk forever, which is why it"s important to set good norms today around weighing data use versus utility and be thoughtful about bias creeping in. Also, Guy Rosen and team are amazing, great opportunity for ML engs to have impact. https://twitter.com/JoshConstine/status/935177132350648320 …

6:32 PM - Nov 27, 2017  

•    1919 Replies
 
•    5050 Retweets
 
•    103103 likes

Twitter Ads info and privacy    

 

Изпълнителният директор на Facebook Mark Zuckerberg похвали актуализацията на продукта в публикация днес, пишейки, че "В бъдеще AI ще може да разбере повече от фините нюанси на езика и ще може да идентифицира различни въпроси извън самоубийството, повече видове тормоз и омраза. "

За съжаление, след като TechCrunch попита дали има начин потребителите да се откажат, че техните публикации говорител на Facebook отговори, че потребителите не могат да се откажат. Те отбелязват, че функцията е предназначена да подобри безопасността на потребителите и че ресурсите за поддръжка, предлагани от Facebook, могат бързо да бъдат отхвърлени, ако даден потребител не иска да ги види.

Facebook обучи AI чрез намиране на модели в думите и изображенията, използвани в публикации, които са били докладвани ръчно за риск от самоубийство в миналото. Той също така търси коментари като "добре ли си?" И "Имате ли нужда от помощ?"

"Говорихме с експерти по психично здраве и един от най-добрите начини за предотвратяване на самоубийството е хората, които имат нужда да чуят от приятели или семейство, които се грижат за тях", казва Росен. "Това поставя Facebook в наистина уникална позиция. Можем да помогнем на хората, които са в беда, да се свържат с приятели и с организации, които могат да им помогнат ".

Как се отчита самоубийството в Facebook сега

Чрез съчетанието на AI, човешки модератори и публикации, Facebook може да се опита да предотврати трагедии, като например, когато един баща се самоубива в Facebook Live миналия месец. По-специално, преданията на живо имат силата да възхваляват самоубийството, а оттам и необходимите нови предпазни мерки, както и да засегнат голяма аудитория, тъй като всеки вижда съдържанието едновременно за разлика от записаните във Facebook видеоклипове, които могат да бъдат маркирани и свалени, хора.

Сега, ако някой изразява мисли за самоубийство във всеки вид публикация във Facebook, AI на Facebook ще го открие и я задейства на обучени за превенция на човешките модератори и ще направи възможностите за отчитане на зрителите по-достъпни.

Когато се появи доклад, технологията на Facebook може да подчертае частта от публикацията или видеоклипа, която съответства на моделите за риск от самоубийство или която получава съответните коментари. Това избягва модераторите да се налага да преминат през цялото видео сами. AI дава приоритет на отчетите за потребителите като по-спешни от други видове нарушения на съдържателната политика, като изобразяване на насилие или голота. Facebook заявява, че тези ускорени доклади се ескалират пред местните власти два пъти по-бързо, отколкото при неокачествени доклади.

Инструментите на Facebook след това отнемат местните езикови ресурси от своите партньори, включително телефонни горещи линии за предотвратяване на самоубийствата и близки власти. След това модераторът може да се свърже с респондентите и да ги изпрати до местоположението на по-рисковия потребител, да изпрати ресурсите за психично здраве на самия рисков потребител или да ги изпрати на приятели, които могат да говорят с потребителя. "Една от целите ни е да гарантираме, че нашият екип може да реагира по целия свят на всеки език, който поддържаме", казва Росен.

През февруари изпълнителният директор на Facebook Марк Зукърбърг пише, че "Имаше ужасно трагични събития - като самоубийства, някои на живо, които можеха да бъдат предотвратени, ако някой осъзнае какво се случва и ги съобщава по-рано. , , Изкуственият интелект може да помогне за по-добър подход. "

С повече от 2 милиарда потребители е добре да виждате Facebook засилване тук. Facebook не само създаде начин потребителите да се свързват и да се грижат един за друг. Също така за съжаление е създаден несмесен канал за разпространение в реално време във Facebook Live, който може да се хареса на хора, които искат аудитория за насилие, което нанасят на себе си или на други хора.

Създаването на повсеместна комуникационна програма за глобални комуникации идва с отговорности извън тези на повечето технологични компании, с които Facebook сякаш се справя.