Scansione ed estrazione dati

Come estrarre nomi, specifiche e prezzi dei prodotti dalle pagine web

Pagine di prodotto trasformate in campi convalidati di nome, specifiche, prezzo e fonte
Pagine di prodotto trasformate in campi convalidati di nome, specifiche, prezzo e fonte

Le pagine di prodotto sembrano uniformi finché non esamini varianti, prezzi scontati, unità di misura e specifiche mancanti. Un buon processo di estrazione preserva queste distinzioni invece di forzare ogni pagina in un unico record piatto.

Parti da uno schema di prodotto

Usa una definizione dei campi che indichi sia il significato sia l’evidenza.

CampoEsempio da una pagina dimostrativaRegola di estrazione
productNamePompa sanitaria HX 240Usa il titolo principale del prodotto
skuHX-240-SSMantieni l’identificativo pubblicato esattamente com’è
price1299.00Salva un numero solo quando un prezzo è indicato
currencyEURNon dedurre la valuta solo dalla lingua
salePriceVuotoTienilo separato dal prezzo normale
specificationspressure: 16 barConserva etichetta, valore e unità
availabilityContatta le venditeNon convertirlo in "disponibile"
sourceUrlURL della scheda prodottoObbligatorio per ogni record
capturedAtData e ora di acquisizioneObbligatorio per i controlli di aggiornamento

L’esempio è illustrativo, non si tratta di dati di clienti. Sostituiscilo con i campi e la terminologia del catalogo da acquisire.

Limita la scansione ai record di prodotto

Parti da una pagina di categoria o da una sitemap e consenti i percorsi delle schede prodotto. Escludi carrello, account, risultati di ricerca, tag e URL filtrati, a meno che non contengano record unici.

Imposta un limite di pagine superiore alla dimensione prevista del catalogo ed esegui un campione. Rivedi i link rilevati prima di acquisire l’intero catalogo: la navigazione a faccette può moltiplicare gli URL per lo stesso prodotto.

Configurazione dell’acquisizione del sito Seekdown con impostazioni di navigazione e dati di esempio
Configurazione dell’acquisizione del sito Seekdown con impostazioni di navigazione e dati di esempio

Rendi esplicite le varianti

Decidi se un colore, una taglia, una confezione o un’offerta regionale diventa:

  • una riga separata con un proprio identificativo;
  • una lista figlia all’interno di un unico record di prodotto; oppure
  • un campo che si applica solo alla variante selezionata.

Non combinare il nome del prodotto base con il prezzo di una variante, a meno che la fonte non li presenti insieme. Quando una pagina dice "da 20 €", conserva quel qualificatore o salva un campo di prezzo minimo invece di registrare 20 € come prezzo universale.

Testa le pagine più a rischio

Il tuo campione di convalida dovrebbe includere:

  1. un normale prodotto disponibile;
  2. un prodotto scontato con due prezzi;
  3. un prodotto con varianti;
  4. una pagina con specifiche mancanti;
  5. un prodotto non disponibile o solo su richiesta;
  6. un prodotto la cui tabella delle specifiche usa un layout diverso.

Per ogni pagina, confronta il testo acquisito e i campi risultanti con la fonte live. Un record valido ha il valore, l’unità, il qualificatore e l’URL sorgente corretti.

Pianifica i cambiamenti

I dati del catalogo cambiano con ritmi diversi. Prezzo e disponibilità possono giustificare acquisizioni frequenti, mentre le specifiche tecniche cambiano di rado. Se si trovano sulla stessa pagina, scegli una frequenza adatta al campo più sensibile al tempo e monitora l’utilizzo delle scansioni.

Esporta il dataset convalidato in CSV o JSON per avere un file riferito a un momento preciso. Conserva i campi di fonte e di acquisizione, così chi usa i dati a valle può verificare quando un valore è stato rilevato.