Avatar billede brummelum Nybegynder
03. marts 2004 - 12:58 Der er 1 kommentar og
1 løsning

Hurtig sammenligning af store tekstfelter

Jeg har en DB med +100.000 HTML sider som der skal ryddes op i, der ligger en del sider dobbelt. Kriteriet for "udsmidning" er at HTML siderne er 100% ens.

Ud over det vil jeg gerne i fremiden hurtigt kunne afgøre om en given HTML side allerede er i databasen.

Hvordan gør man det ?
Avatar billede hrc Mester
03. marts 2004 - 13:32 #1
Du hasher hver side (laver det om til en 20-bytes signatur á lá eDonkey) og sammenligner derfra:

Tabellen (pseudo-SQL):

create table HasCompare
(
  hash char(20),
  page char(50)
);

Du kan evt. lave Hash som primary key - dvs. når du indsætter en dubblet så sker der fejl og det betyder at du kan slette den side du prøvede at indsætte.

Hashing-komponenter findes i massevis på nettet, søg evt. efter DCPHashes
Avatar billede brummelum Nybegynder
03. marts 2004 - 20:37 #2
Fandt denne, der ikke går ned ved strings > 180kb: http://www.endimus.com
Avatar billede Ny bruger Nybegynder

Din løsning...

Tilladte BB-code-tags: [b]fed[/b] [i]kursiv[/i] [u]understreget[/u] Web- og emailadresser omdannes automatisk til links. Der sættes "nofollow" på alle links.

Loading billede Opret Preview
Kategori
Kurser inden for grundlæggende programmering

Log ind eller opret profil

Hov!

For at kunne deltage på Computerworld Eksperten skal du være logget ind.

Det er heldigvis nemt at oprette en bruger: Det tager to minutter og du kan vælge at bruge enten e-mail, Facebook eller Google som login.

Du kan også logge ind via nedenstående tjenester