AbstractExtractor

Version du 27 septembre 2013 à 13:26

Génère deux triplets par articles correspondant à un résumé court et un résumé long de l'article.

Triplets générés

Produire les résumés

Pour fonctionner cet extracteur doit interroger l'API mediawiki d'une image de wikipédia. De par le nombre d'appels à l'API (une par article), il n'est pas possible d'interroger l'API de http://fr.wikipédia.org, il faut installer une version locale.

En pratique, seuls les résumés en français sont obtenus à l'aide de cet extracteur, les résumés dans d'autres langues sont importés de DBpedia.org.

Extraire les résumés en français

Les explications de cette section sont tirées de https://github.com/dbpedia/extraction-framework/wiki/Dbpedia-Abstract-Extraction-step-by-step-guide

Mise en place du miroir de wikipedia en français

Il faut installer mediawiki avec la configuration particulière pour DBpedia (ne pas faire l'installation de mediawiki par l'interface web).

Installer les dépendances de mediawiki

• serveur web apache2 (parfois appelé httpd).
• mysql
• php, php-xml (parfois déjà inclus dans le package php) et php-acl (parfois appelé php-pecl-acl).

Installer mediawiki

• Téléchargez la dernière version de mediawiki dans un répertoire accessible par apache (groupe apache ou www-data, le plus simple est de le rendre accessible à tous).:

git clone https://gerrit.wikimedia.org/r/p/mediawiki/core.git .

Dans la suite on note [RacineMediawiki] le répertoire d'installation de mediawiki

• Copier le contenu du sous répertoire dump/src/main/mediawiki/ du dépôt DBpedia dans [RacineMediawiki].

• Installer les extensions listées à la fin du fichier [RacineMediawiki]/LocalSettings.php, depuis le répertoire [RacineMediawiki]/extensions:

git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/Babel.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/CategoryTree.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/CharInsert.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/Cite.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/ExpandTemplates.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/ImageMap.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/InputBox.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/Interwiki.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/Math.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/OggHandler.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/ParserFunctions.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/Poem.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/StringFunctionsEscaped.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/SyntaxHighlight_GeSHi.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/timeline.git; \
git clone https://gerrit.wikimedia.org/r/p/mediawiki/extensions/wikihiero.git

Configurer le serveur apache

Faire correspondre l'adresse /mediawiki au dossier [RacineMediawiki], pour cela ajouter les lignes au fichier de configuration de apache (selon la configuration /etc/apache2/apache2.conf ou /etc/httpd/conf/httpd.conf), voir dans un <VirtualHost>:

Alias /mediawiki [RacineMediawiki]
<Directory /mediawiki>
   Allow from all
</Directory>

puis raffraîchir la configuration du serveur apache :

sudo service httpd reload

En tappant l'adresse http://localhost/mediawiki?uselang=fr dans un navigateur, vous devez obtenir une page qui contient le message : "Sorry! This site is experiencing technical difficulties", c'est parce qu'il faut encore mettre en place la base de données.

ToDo:

• initialisation de la bd MySQL (export MYSQL_HOME, correction script pour mysql_install_db).
• execution du processus d'import par scala.
  • Rq on a eu besoin de supprimer "CHARACTER SET binary", ligne 60 de dump/org/dbpedia/extraction/dump/sql/Import.scala pour que ça marche.
  • Rq il faut rendre configurable l'adresse du wiki dans le code de AbsractExtractor.scala

Rq : Sous Ubuntu il a fallu modifier la configuration de apparmor pour autoriser la création d'une bd mysql dans le répertoire choisi.

Importer les résumés d'autres langues

DBpedia.org contient les résumés dans de nombreuses langues, Ces résumés sont associés aux ressources de DBpedia.org mais on peut les importer modulo les liens d'équivalence avec les ressources de DBpedia en français. Pour importer les résumés d'une langue dont le code est [xx] (eg. fr pour le français, de pour l'allemand ...).

Préparer les liens owl:sameAs fr-en

Deux possibilités !

• Utiliser le fichier frwiki-[AAAAMMJJ]-interlanguage-links.ttl.gz généré lors de l'extraction. Attention, les adresses des ressources de DBpedia.org doivent être dans le même format que pour les dumps de résumés que l'on va télécharger. A priori, il faut donc que les ressources de DBpedia fr soient identifiées par des URIs et celles de DBpedia en par des URIs.

$ gunzip -c frwiki-[AAAAMMJJ]-interlanguage-links.ttl.gz | grep "http://dbpedia" > same_as_fr_en.nt

• Importer ces liens depuis DBpedia.org :

$ wget http://downloads.dbpedia.org/current/fr/interlanguage_links_same_as_fr.nt.bz2
$ bzcat interlanguage_links_same_as_fr.nt.bz2 | grep "http://dbpedia" > same_as_fr_en.nt

Ensuite trier le résultat selon les ressources de DBpedia en :

$ export LC_ALL=C (sinon les '_' sont ignorés lors du tri)
$ grep -v "^#" same_as_fr_en.nt | sort -k 3 > same_as_fr_en_sorted.nt

Préparer les résumés de la langue voulue

• Importer les résumés associés aux ressources DBpedia.org :

$ wget http://downloads.dbpedia.org/current/[xx]/long_abstracts_en_uris_[xx].nt.bz2
$ wget http://downloads.dbpedia.org/current/[xx]/short_abstracts_en_uris_[xx].nt.bz2

• Les trier selon les ressources de DBpedia en:

 $ export LC_ALL=C (sinon les '_' sont ignorés lors du tri)
 $ bzcat long_abstracts_en_uris_[xx].nt.bz2 | grep -v "^#" | \
sort -k 1 > long_abstracts_en_uris_[xx]_sorted.nt
 $ bzcat short_abstracts_en_uris_[xx].nt.bz2 | grep -v "^#" | \
sort -k 1 > short_abstracts_en_uris_[xx]_sorted.nt

Transposer les résumés aux ressources de DBpedia fr

 $ join -13 -21 same_as_fr_en_sorted.nt long_abstracts_en_uris_[xx]_sorted.nt | \
sed "s/^<[^>]*> \(<[^>]*>\) <[^>]*> ./\1/" > long_abstracts_fr_iris_[xx].nt
 $ join -13 -21 same_as_fr_en_sorted.nt short_abstracts_en_uris_[xx]_sorted.nt | \
sed "s/^<[^>]*> \(<[^>]*>\) <[^>]*> ./\1/" > short_abstracts_fr_iris_[xx].nt