Relevante Tags/Schlüsselwörter aus dem Text block

Einer sehr naiven Methode zu entfernen Allgemeine Stoppwörter aus dem text, so dass Sie mit mehr aussagekräftige Worte wie 'Standards', 'JSON', etc. Sie werden immer noch eine Menge Lärm jedoch, so erwägen Sie einen Dienst wie OpenCalais, die eine ziemlich anspruchsvolle Analyse des Textes.

Update:

Okay, der link in meiner vorherigen Antwort darauf hingewiesen, Implementierungen, aber Sie danach gefragt, so einfach ist das hier:

function stopWords($text, $stopwords) {

  //Remove line breaks and spaces from stopwords
    $stopwords = array_map(function($x){return trim(strtolower($x));}, $stopwords);

  //Replace all non-word chars with comma
  $pattern = '/[0-9\W]/';
  $text = preg_replace($pattern, ',', $text);

  //Create an array from $text
  $text_array = explode(",",$text);

  //remove whitespace and lowercase words in $text
  $text_array = array_map(function($x){return trim(strtolower($x));}, $text_array);

  foreach ($text_array as $term) {
    if (!in_array($term, $stopwords)) {
      $keywords[] = $term;
    }
  };

  return array_filter($keywords);
}

$stopwords = file('stop_words.txt');
$text = "Requirements - Working knowledge, on LAMP Environment using Linux, Apache 2, MySQL 5 and PHP 5, - Knowledge of Web 2.0 Standards - Comfortable with JSON - Hands on Experience on working with Frameworks, Zend, OOPs - Cross Browser Javascripting, JQuery etc. - Knowledge of Version Control Software such as sub-version will be preferable.";

print_r(stopWords($text, $stopwords));

Können Sie sehen, dieses, und der Inhalt stop_word.txt in diesem Gist.

Ausführen der oben auf deinem Beispiel-text erzeugt das folgende array:

Array
(
    [0] => requirements
    [4] => linux
    [6] => apache
    [10] => mysql
    [13] => php
    [25] => json
    [28] => frameworks
    [30] => zend
    [34] => browser
    [35] => javascripting
    [37] => jquery
    [38] => etc
    [42] => software
    [43] => preferable
)

So, wie ich gesagt habe, ist etwas naiv und könnte mehr Optimierung (und es ist langsam), aber es macht ziehen Sie aus dem mehr relevante keywords aus dem text. Sie würde tun müssen, um die Feinabstimmung auf die Stopp-Wörter als gut. Die Erfassung Begriffe wie Web 2.0 sehr schwer sein wird, damit ich wieder denken, Sie wären besser dran mit einem schweren Dienst wie OpenCalais, die versteht einen text und gibt eine Liste von Entitäten und Referenzen. DocumentCloud beruht auf diesem sehr service zum sammeln von Informationen aus Dokumenten.

Auch für client-seitige Implementierung man konnte ziemlich viel die gleiche Sache mit JavaScript, und wahrscheinlich viel sauberer (auch wenn Sie es langsam für die Clients).

Dies ist nicht einfach zu tun, weil es erfordert eine gewisse Art von fuzzy-Logik. Sollten Sie die Yahoo Term extractor YQL

Check it out: link