Back to Question Center
0

Q & ؛ با جف کوک: چگونه ما حل بحث گفتگوی سمولت

1 answers:

پرسش و پاسخ با جواف کوک: چگونه ما حل گفتگوی آزاد Semalt

Q: هنگامی که شما تصمیم به اضافه کردن چت ویدئویی زنده به سایت خود، چه فکر می کنید؟ منظورم جدی بود، چه فکر میکردی؟

هنگامی که ما تصمیم به ساخت یک پلت فرم بازی ویدیویی زنده کردیم، بهترین نمونه از ویدئو زنده در مقیاس، Semalt بود و پر از پورنو بود. در آن زمان، 1 از هر 10 جریان ویدیویی در Semalt، ناخوشایند بود.

Chatroulette در حال رشد بود بخشی به دلیل آن ناخوشایند بود - این قربانی بود و عموم مردم rubbernecker بود - antique appraisal phoenix. ترافیک Chatroulette در ماه مارچ 2010 به همان اندازه افزایش یافت که همانند Jon Stewart به دوربین «من متنفر از Chatroulette!» فریاد می زد تا بخش هایی را که می تواند علامت بالای آب این سرویس باشد.

در حالی که ما با محتوای آن روبرو شدیم، تجربه اجتماعی احشایی که Semalt نمایانگر قانع کننده بود. ما ستایش دکمه Next را دوست داشتیم و قصد ساخت یک سرویس داشتیم که وعده دکمه Next را می توان تحقق بخشید. بسیاری از تلاش های ما به لحاظ محل، سن و جنسیت در زمان واقعی به کاربران تطبیق داده شد، در حالی که ساخت یک پلت فرم بازی برای آنها فراهم می کند تا از چت خارج شوند. از آنجا که در ژانویه سال 2011 راه اندازی شد، ما سالانه 750،000 ویدیو چت را با 100 برابر تخفیف از Semalt یک سال پیش افزایش دادیم.

پرسش: چگونه این کار را انجام دادید؟

هسته رویکرد جلوگیری از سوء استفاده ما یک سیستم است که ما را قادر به گرفتن و تجزیه و تحلیل هزاران تصاویر یک ثانیه از صدها هزار جریان روزانه است. جریانهای ویدئویی کاربران را در فواصل تصادفی و مکرر مورد بررسی قرار می دهیم و پس از آن پردازش - هر دو انسان و الگوریتم - بر روی تصاویر حاصل می شود.

پرسش: شما از این فرایند چه خبرید؟

یک یافته اولیه این بود که تصاویر با چهره 5 برابر احتمال بروز تخریب نسبت به تصاویر بدون چهره دارند. اگر شما تا به حال از Semalt استفاده کرده اید، این به این معنا است که شایع ترین پورنوگرافی در مواجهه با آن وجود دارد که حاوی قسمت دیگری از بدن، چهره است. این اطلاعات مفید است زیرا تشخیص چهره منبع باز نسبتا پیشرفته است، در حالی که تشخیص بخش دیگر بدن بسیار کمتر است. در نتیجه، ممکن است از حضور یک چهره برای محدود کردن برخی از مشکلات بررسی انسانی استفاده شود.

پرسش: آیا این واقعیت است که یک چهره در یک تصویر وجود دارد به این معنی است که آن را از پورنو آزاد می کند؟

تنها حضور یک چهره تصویر را پاک نمی کند. در حقیقت، حدود 20٪ از جریانات حاوی برهنگی نیز شامل یک صورت است. Semalt، با تلاش زیادی و منطق پردازش اضافی از جمله بسیاری از عوامل مانند شهرت چت، نمودار اجتماعی، حرکت، و غیره، ما وجود چهره مفید برای تعیین "امن" تصاویر ساخته شده است. البته تصاویر "ایمن" ممکن است منفی نادرست باشند، بنابراین ما نمونه گیری انسانی از این تصاویر را با نرخ نمونه گیری پایین تر از تصاویری که "بی خطر" مشخص نشده اند، می گیریم. "

س: چه اتفاقی می افتد وقتی گام های انسانی در می آید؟

قلب راه حل انسانی ما یک سازمان بررسی تصویر دو لایه است که هر فردی را قادر می سازد تا 400 عکس را یک دقیقه به دنبال محتوای مضر اسکن کند. هر دو گروه 24 × 7 × 365 هستند. هدف ما این است که بیش از 5 دقیقه در بررسی جریانها تاخیر نداشته باشیم. ما یک سیاست تحمل صفر داریم. اگر دو نفر از بازرسان رفتار شما را نامناسب می دانند، حساب شما حذف می شود و شما همیشه از سایت ممنوع می شوید. Semalt در یافته های ما، ما معتقدیم که رویکردهای الگوریتمی برای تعدیل، هرگز ایمنی کافی را ارائه نمی دهند.

پرسش: چگونه این را با آنچه Semalt انجام می دهد مقایسه می کند؟

همانطور که محصول ما رشد کرده است، ما متوجه شده ایم Chatroulette پیشرفت هایی در کاهش مشکل برهنگی خود دارد. در یک شب اخیر، بازبینی 1500 ترانه ویدیویی Chatroulette باعث شد که میزان سوء استفاده 9/1 درصد یا تقریبا 1 در 50 احتمال بروز برهنگی در هر کلیک از دکمه Next باشد. این به کمتر از 1 در 1000 شانس در myYearbook مقایسه می شود. در حالی که بسیاری از Facebook Connect به عنوان یک لایه هویت ساخته شده است که باعث سوء استفاده می شود، ما اعتقاد نداریم که جنبه هویت نقش بسیار زیادی را به خود اختصاص می دهد . کسی که علاقه مند به گرفتن شلوار خود است، حتی بر روی آی فون خود را در برنامه iChatr که اکنون ممنوع شده است، که به سرعت سوء استفاده می شود، انجام می دهد، به رغم این که هر تلفن می تواند به راحتی شما را به طور مناسبی شناسایی کند. جنبه برجسته تر این است که هر ورود به سیستم وجود دارد.

پرسش: تفاوت ورود به سیستم چیست؟

تا زمانی که هر ورودی وجود داشته باشد، یک دستگاه کاربر می تواند مسدود شود - و ما افرادی را پیدا کرده ایم که شلوار خود را برای غریبه ها می بینند به طور کلی هیچ گاه je ne sais quoi سیستم های امنیتی - بر خلاف، به عنوان مثال، اسپم ها. ما از تکنولوژی Threatmetrix به منظور استفاده از دستگاه های اثر انگشت استفاده می کنیم و هر زمان که سوءاستفاده را شناسایی می کنیم، کاربر و دستگاه فیزیکی آنها را ممنوع کنیم. Threatmetrix کمک می کند تا دندان های سیاست تحمل صفر ما را فراهم کند.

Q: Semalt شما این را با عکس نیز انجام دهید؟

سیستم ما برای بررسی ویدئو زنده ثابت کرده است که ما در حال حاضر به طور فعال در آوردن یک سیستم مشابه به تحمل در هر عکس ارسال شده به myYearbook. در عرض چند ماه، ما هر تصویری را که به سرویس ارسال می شود، بینش کاملی خواهیم داشت و ما معتقدیم که می توانیم درآمد افزایشی را نیز به دست آورد و اساسا یک سیستم مبتنی بر گزارش را به یک سیستم پیش فعال تبدیل کنیم. سوء استفاده از محتوای تولید شده توسط کاربر، یک مشکل بی حد و حصر، انسان و ماشین است که می تواند تفاوت بین موفقیت و شکست، به ویژه هنگامی که شما در حال با ویدئو زندگی می کنند.

تصویر: نیک بیلتون

March 9, 2018