Obscenity Filters: Bad Idea, or Incredibly Intercoursing Bad Idea?

Also, one can't forget The Untold History of Toontown's SpeedChat, where even using a "safe-word whitelist" resulted in a 14 year old quickly circumventing it with: "I want to stick my long-necked Giraffe up your fluffy white bunny."

Bottom line: Sonuçta, uygulamak herhangi bir sistem için, insan inceleme için herhangi bir yerini tutamaz (akran olsun veya başka türlü) kesinlikle yoktur. Drive-by yıllardan kurtulmak için ilkel bir araç uygulamak için çekinmeyin, ama kararlı trol için, kesinlikle olmayan bir algoritma tabanlı bir yaklaşım olmalıdır.

Anonimlik kaldırır ve hesap verebilirlik (yığın taşması iyi yapar bir şey) tanıtır bir sistem muharebe John Gabriel's G.I.F.T. yardım etmek, özellikle amacıyla, aynı zamanda yararlı

Varsayılan küfür listeleri için kaynak kodu kontrol - Dansguardian olduğunu kontrol etmek için bir açık kaynak projesi - sen küfür listeleri başlamak için alabileceğiniz de sordu. Sizin için yararlı gleaning noktası olabilir proxy indirebilirsiniz Phrase List ek bir üçüncü parti de vardır.

Edit in response the question edit: yapmak için çalışıyoruz ne açıklama için teşekkürler. Eğer sadece basit bir kelime filtresi yapmaya çalışıyorsanız bu durumda, bunu iki yolu vardır. One sansür istediğiniz yasaklı ifadelerin tümü, ve sadece bir regex onunla değiştirin / bulurum tek bir uzun regexpi oluşturmaktır. Bir regex gibi:

$filterRegex = "(boogers|snot|poop|shucks|argh)"

ve, bir hit toptan testine preg_match() kullanarak giriş dizesi çalıştırın

veya preg_replace() dışarı onları boş için.

Ayrıca diziler yerine tek bir uzun regex bu işlevleri yükleyebilirsiniz, ve uzun bir kelime listeleri için, daha yönetilebilir olabilir. Diziler esnek nasıl kullanılabileceği gibi bazı iyi örnekler için preg_replace() bakın.

Ek PHP programlama örnekleri için de (bir PHP örneği olduğunu, sansürlü kelime merkez harfleri 's dışarı * kelime filtreleme için somewhat advanced generic class için bu sayfayı görmek ve bu previous Stack Overflow question Orada ana değerli parçası SQL tabanlı süzülmüş kelime yaklaşımdır - leet-konuşmak kompansatör Eğer gereksiz bulursanız vazgeçilebilir olabilir).

Ayrıca eklendi: "Getting the list of words in the first place is the real question." - Bir önceki Dansgaurdian bazı bağlantılar için ek olarak, yardımcı olmak için 458 kelimelerin this handy .zip bulabilirsiniz.

Eğer (Ben bu konuya bağlantılardan biri ile başladı) filtrelemek istediğiniz bazı kötü kelimelerin iyi bir MYSQL tablo var sonra, böyle bir şey yapabilirsiniz:

$errors = array();  //Initialize error array (I use this with all my PHP form validations)

$SCREENNAME = mysql_real_escape_string($_POST['SCREENNAME']); //Escape the input data to prevent SQL injection when you query the profanity table.

$ProfanityCheckString = strtoupper($SCREENNAME); //Make the input string uppercase (so that 'BaDwOrD' is the same as 'BADWORD').  All your values in the profanity table will need to be UPPERCASE for this to work.

$ProfanityCheckString = preg_replace('/[_-]/','',$ProfanityCheckString); //I allow alphanumeric, underscores, and dashes...nothing else (I control this with PHP form validation).  Pull out non-alphanumeric characters so 'B-A-D-W-O-R-D' shows up as 'BADWORD'.

$ProfanityCheckString = preg_replace('/1/','I',$ProfanityCheckString); //Replace common numeric representations of letters so '84DW0RD' shows up as 'BADWORD'.

$ProfanityCheckString = preg_replace('/3/','E',$ProfanityCheckString);

$ProfanityCheckString = preg_replace('/4/','A',$ProfanityCheckString);

$ProfanityCheckString = preg_replace('/5/','S',$ProfanityCheckString);

$ProfanityCheckString = preg_replace('/6/','G',$ProfanityCheckString);

$ProfanityCheckString = preg_replace('/7/','T',$ProfanityCheckString);

$ProfanityCheckString = preg_replace('/8/','B',$ProfanityCheckString);

$ProfanityCheckString = preg_replace('/0/','O',$ProfanityCheckString); //Replace ZERO's with O's (Capital letter o's).

$ProfanityCheckString = preg_replace('/Z/','S',$ProfanityCheckString); //Replace Z's with S's, another common substitution.  Make sure you replace Z's with S's in your profanity database for this to work properly.  Same with all the numbers too--having S3X7 in your database won't work, since this code would render that string as 'SEXY'.  The profanity table should have the "rendered" version of the bad words.

$CheckProfanity = mysql_query("SELECT * FROM DATABASE.TABLE p WHERE p.WORD = '".$ProfanityCheckString."'");
if(mysql_num_rows($CheckProfanity) > 0) {$errors[] = 'Please select another Screen Name.';} //Check your profanity table for the scrubbed input.  You could get real crazy using LIKE and wildcards, but I only want a simple profanity filter.

if (count($errors) > 0) {foreach($errors as $error) {$errorString .= "<span class='PHPError'>$error</span><br /><br />";} echo $errorString;} //Echo any PHP errors that come out of the validation, including any profanity flagging.


//You can also use these lines to troubleshoot.
//echo $ProfanityCheckString;
//echo "<br />";
//echo mysql_error();
//echo "<br />";

Ben tüm bu değiştirmeler yapmak için daha etkili bir yol olduğundan emin değilim, ama ben bunu anlamaya yeterince akıllı değilim (ve bu verimsiz de olsa, tamam iş gibi görünüyor).

Ben kullanıcıların kayıt izin tarafında err ve filtre ve gerekli olarak küfür tabloya eklemek için insanları kullanmak gerektiğine inanıyoruz. Hepsi bir yanlış pozitif maliyetine bağlıdır rağmen yanlış negatif (kötü bir kelime aracılığıyla alır) karşı (tamam kelime olarak kötü bayraklı). Sonuçta ne kadar agresif veya muhafazakar sizin filtreleme stratejisi vardır yönetmek gerekir.

Eğer joker kullanmak istiyorsanız bazen daha onerously niyetinde daha davranabilir beri ben de, çok dikkatli olacaktır.

Bunun için herhangi bir iyi kütüphanelerin biliyorum, ama ne yaparsan yap, sen yoluyla şeyler icar yönünde err emin yapmazlar. Ben bir alt dize olarak "eşek" içerdiğinden bana, bir kullanıcı adı olarak "mpassell" kullanmak için izin vermedi sistemleri ele ettik. Bu kullanıcıların yabancılaştırmak için harika bir yoldur!

Benim bir iş görüşmesi sırasında, bana görüşme oldu şirket CTO Java yazdığım bir kelime / web oyun çalıştı. Tüm Oxford İngilizce Sözlük bir kelime listesi dışında, tahmin edilecek kadar geldi ilk kelime neydi?

Tabii ki, İngilizce dilinde en çok faul kelime.

Her nasılsa, ben hala iş teklifi aldım, ama o (değil unlike this one), bir küfür kelime listesi aşağı izlenen ve hatta bakmak zorunda kalmadan (kötü kelimelerin tüm olmadan yeni bir sözlük oluşturmak için hızlı bir senaryo yazdı Listeye).

Sizin özel durum için, ben gerçek kelime arama karşılaştırarak böyle bir kelime listesi ile gitmek için bir yol gibi geliyor. Alternatif stilleri / noktalama biraz daha fazla çalışma gerektirir, ama kullanıcılar genellikle yeterli bir sorun olması için kullanabilirsiniz şüpheliyim.

Bir küfür filtreleme sistemi programcı cocksure ve tüm çıplak gelişmeleri yakından takip ediyor olsa bile, mükemmel asla

temel sorun mevcut teknoloji ile language understanding hangi oldukça fazla dirençli olduğu söyledi, 'yaramaz kelimelerin' herhangi bir liste, herhangi bir başka listesinin yanı sıra gerçekleştirmek için muhtemeldir

yani, tek pratik çözüm iki yönlüdür:

1. sık sık sözlüğü güncellemek için hazırlıklı olun
2. yanlış pozitif (yerine "klasik" örneğin "clbuttic") ve yanlış negatif düzeltmek için bir insan editörü kiralama (oops! cevapsız!)

CDYNE's Profanity Filter Web Service bakabilirsiniz

Testing URL

Webpurify.com bu küfür filtreleme ihtiyaçları idare edecek bir api. Ben bir programcı arkadaşı tarafından sevk edildi ve şimdi birkaç yıl için kendi hizmetini kullanıyorum ve çok memnunum. Kullanıcı "beyaz listeler" ve "kara listeler" oluşturabilirsiniz. Hizmet küfür sayılmasını sağlayan veya sadece sembollerle küfür değiştirme gibi birkaç fark filtreleme seçenekleri sunuyor.

Saldırgan kullanıcı girişini önlemek için tek yolu tüm kullanıcı girişi önlemektir.

Eğer izin kullanıcı girişi ısrar ve ılımlılık gerekiyorsa, o zaman insan moderatörler dahil.

Lütfen "sistem kandırmak" subquestion ilgili olarak, "kötü kelime" listesi ve arama yapmadan önce kullanıcı tarafından girilen metni hem de normalize olduğunu işleyebilir. (PHP o varsa veya tr), örneğin, [4@] "a", vb [z$5] için "s" dönüştürmek için bir regexes dizi kullanın sonra normalleştirilmiş metin karşı normalize "kötü bir kelime" listesi karşılaştırın. Ben şu anda herhangi bir fiili durumda düşünemiyorum rağmen, normalleşme potansiyel ek yanlış pozitif yol açabileceğini unutmayın.

Büyük zorluk "penis" bloke ederken insanlar "kılıçtan daha pen is güçlüdür" alıntı sağlayacak bir şey ile gelip etmektir.

Eğer ... kullanıcıların / işareti müstehcen içerik DOWNVote olabilir Digg / Stackoverflow gibi bir şey yapabilirsek bunu.

Sonra yapmanız gereken tüm "yaramaz" kullanıcıları inceleyebilir ve kuralları çiğneyen bunları engellemek olduğunu.

Yapmak değil.

Çünkü:

• Clbuttic
• Küfür OMG EVIL değil
• Küfür etkili tanımlanamaz
• Çoğu kişi büyük ihtimalle küfür gelen "korumalı" hoşuma gitmiyor