2014年12月17日星期三

HASH算法-RFC1751的Java实现

RFC1751是一种HASH算法,目的是将数据encode为人类可以读取的字符,下面是按照白皮书上的C算法改写成的java算法。
import org.apache.commons.lang3.ArrayUtils;
import org.bouncycastle.util.encoders.Hex;

import java.util.Arrays;
import java.util.Collection;

/**
 * Created by wenfeng
 * since 14/12/15.
 */
public class RFC1751 {

    private static final String[] WORDLIST = new String[]{"A", "ABE", "ACE", "ACT", "AD", "ADA", "ADD",
            "AGO", "AID", "AIM", "AIR", "ALL", "ALP", "AM", "AMY", "AN", "ANA",
            "AND", "ANN", "ANT", "ANY", "APE", "APS", "APT", "ARC", "ARE", "ARK",
            "ARM", "ART", "AS", "ASH", "ASK", "AT", "ATE", "AUG", "AUK", "AVE",
            "AWE", "AWK", "AWL", "AWN", "AX", "AYE", "BAD", "BAG", "BAH", "BAM",
            "BAN", "BAR", "BAT", "BAY", "BE", "BED", "BEE", "BEG", "BEN", "BET",
            "BEY", "BIB", "BID", "BIG", "BIN", "BIT", "BOB", "BOG", "BON", "BOO",
            "BOP", "BOW", "BOY", "BUB", "BUD", "BUG", "BUM", "BUN", "BUS", "BUT",
            "BUY", "BY", "BYE", "CAB", "CAL", "CAM", "CAN", "CAP", "CAR", "CAT",
            "CAW", "COD", "COG", "COL", "CON", "COO", "COP", "COT", "COW", "COY",
            "CRY", "CUB", "CUE", "CUP", "CUR", "CUT", "DAB", "DAD", "DAM", "DAN",
            "DAR", "DAY", "DEE", "DEL", "DEN", "DES", "DEW", "DID", "DIE", "DIG",
            "DIN", "DIP", "DO", "DOE", "DOG", "DON", "DOT", "DOW", "DRY", "DUB",
            "DUD", "DUE", "DUG", "DUN", "EAR", "EAT", "ED", "EEL", "EGG", "EGO",
            "ELI", "ELK", "ELM", "ELY", "EM", "END", "EST", "ETC", "EVA", "EVE",
            "EWE", "EYE", "FAD", "FAN", "FAR", "FAT", "FAY", "FED", "FEE", "FEW",
            "FIB", "FIG", "FIN", "FIR", "FIT", "FLO", "FLY", "FOE", "FOG", "FOR",
            "FRY", "FUM", "FUN", "FUR", "GAB", "GAD", "GAG", "GAL", "GAM", "GAP",
            "GAS", "GAY", "GEE", "GEL", "GEM", "GET", "GIG", "GIL", "GIN", "GO",
            "GOT", "GUM", "GUN", "GUS", "GUT", "GUY", "GYM", "GYP", "HA", "HAD",
            "HAL", "HAM", "HAN", "HAP", "HAS", "HAT", "HAW", "HAY", "HE", "HEM",
            "HEN", "HER", "HEW", "HEY", "HI", "HID", "HIM", "HIP", "HIS", "HIT",
            "HO", "HOB", "HOC", "HOE", "HOG", "HOP", "HOT", "HOW", "HUB", "HUE",
            "HUG", "HUH", "HUM", "HUT", "I", "ICY", "IDA", "IF", "IKE", "ILL",
            "INK", "INN", "IO", "ION", "IQ", "IRA", "IRE", "IRK", "IS", "IT",
            "ITS", "IVY", "JAB", "JAG", "JAM", "JAN", "JAR", "JAW", "JAY", "JET",
            "JIG", "JIM", "JO", "JOB", "JOE", "JOG", "JOT", "JOY", "JUG", "JUT",
            "KAY", "KEG", "KEN", "KEY", "KID", "KIM", "KIN", "KIT", "LA", "LAB",
            "LAC", "LAD", "LAG", "LAM", "LAP", "LAW", "LAY", "LEA", "LED", "LEE",
            "LEG", "LEN", "LEO", "LET", "LEW", "LID", "LIE", "LIN", "LIP", "LIT",
            "LO", "LOB", "LOG", "LOP", "LOS", "LOT", "LOU", "LOW", "LOY", "LUG",
            "LYE", "MA", "MAC", "MAD", "MAE", "MAN", "MAO", "MAP", "MAT", "MAW",
            "MAY", "ME", "MEG", "MEL", "MEN", "MET", "MEW", "MID", "MIN", "MIT",
            "MOB", "MOD", "MOE", "MOO", "MOP", "MOS", "MOT", "MOW", "MUD", "MUG",
            "MUM", "MY", "NAB", "NAG", "NAN", "NAP", "NAT", "NAY", "NE", "NED",
            "NEE", "NET", "NEW", "NIB", "NIL", "NIP", "NIT", "NO", "NOB", "NOD",
            "NON", "NOR", "NOT", "NOV", "NOW", "NU", "NUN", "NUT", "O", "OAF",
            "OAK", "OAR", "OAT", "ODD", "ODE", "OF", "OFF", "OFT", "OH", "OIL",
            "OK", "OLD", "ON", "ONE", "OR", "ORB", "ORE", "ORR", "OS", "OTT",
            "OUR", "OUT", "OVA", "OW", "OWE", "OWL", "OWN", "OX", "PA", "PAD",
            "PAL", "PAM", "PAN", "PAP", "PAR", "PAT", "PAW", "PAY", "PEA", "PEG",
            "PEN", "PEP", "PER", "PET", "PEW", "PHI", "PI", "PIE", "PIN", "PIT",
            "PLY", "PO", "POD", "POE", "POP", "POT", "POW", "PRO", "PRY", "PUB",
            "PUG", "PUN", "PUP", "PUT", "QUO", "RAG", "RAM", "RAN", "RAP", "RAT",
            "RAW", "RAY", "REB", "RED", "REP", "RET", "RIB", "RID", "RIG", "RIM",
            "RIO", "RIP", "ROB", "ROD", "ROE", "RON", "ROT", "ROW", "ROY", "RUB",
            "RUE", "RUG", "RUM", "RUN", "RYE", "SAC", "SAD", "SAG", "SAL", "SAM",
            "SAN", "SAP", "SAT", "SAW", "SAY", "SEA", "SEC", "SEE", "SEN", "SET",
            "SEW", "SHE", "SHY", "SIN", "SIP", "SIR", "SIS", "SIT", "SKI", "SKY",
            "SLY", "SO", "SOB", "SOD", "SON", "SOP", "SOW", "SOY", "SPA", "SPY",
            "SUB", "SUD", "SUE", "SUM", "SUN", "SUP", "TAB", "TAD", "TAG", "TAN",
            "TAP", "TAR", "TEA", "TED", "TEE", "TEN", "THE", "THY", "TIC", "TIE",
            "TIM", "TIN", "TIP", "TO", "TOE", "TOG", "TOM", "TON", "TOO", "TOP",
            "TOW", "TOY", "TRY", "TUB", "TUG", "TUM", "TUN", "TWO", "UN", "UP",
            "US", "USE", "VAN", "VAT", "VET", "VIE", "WAD", "WAG", "WAR", "WAS",
            "WAY", "WE", "WEB", "WED", "WEE", "WET", "WHO", "WHY", "WIN", "WIT",
            "WOK", "WON", "WOO", "WOW", "WRY", "WU", "YAM", "YAP", "YAW", "YE",
            "YEA", "YES", "YET", "YOU", "ABED", "ABEL", "ABET", "ABLE", "ABUT",
            "ACHE", "ACID", "ACME", "ACRE", "ACTA", "ACTS", "ADAM", "ADDS",
            "ADEN", "AFAR", "AFRO", "AGEE", "AHEM", "AHOY", "AIDA", "AIDE",
            "AIDS", "AIRY", "AJAR", "AKIN", "ALAN", "ALEC", "ALGA", "ALIA",
            "ALLY", "ALMA", "ALOE", "ALSO", "ALTO", "ALUM", "ALVA", "AMEN",
            "AMES", "AMID", "AMMO", "AMOK", "AMOS", "AMRA", "ANDY", "ANEW",
            "ANNA", "ANNE", "ANTE", "ANTI", "AQUA", "ARAB", "ARCH", "AREA",
            "ARGO", "ARID", "ARMY", "ARTS", "ARTY", "ASIA", "ASKS", "ATOM",
            "AUNT", "AURA", "AUTO", "AVER", "AVID", "AVIS", "AVON", "AVOW",
            "AWAY", "AWRY", "BABE", "BABY", "BACH", "BACK", "BADE", "BAIL",
            "BAIT", "BAKE", "BALD", "BALE", "BALI", "BALK", "BALL", "BALM",
            "BAND", "BANE", "BANG", "BANK", "BARB", "BARD", "BARE", "BARK",
            "BARN", "BARR", "BASE", "BASH", "BASK", "BASS", "BATE", "BATH",
            "BAWD", "BAWL", "BEAD", "BEAK", "BEAM", "BEAN", "BEAR", "BEAT",
            "BEAU", "BECK", "BEEF", "BEEN", "BEER",
            "BEET", "BELA", "BELL", "BELT", "BEND", "BENT", "BERG", "BERN",
            "BERT", "BESS", "BEST", "BETA", "BETH", "BHOY", "BIAS", "BIDE",
            "BIEN", "BILE", "BILK", "BILL", "BIND", "BING", "BIRD", "BITE",
            "BITS", "BLAB", "BLAT", "BLED", "BLEW", "BLOB", "BLOC", "BLOT",
            "BLOW", "BLUE", "BLUM", "BLUR", "BOAR", "BOAT", "BOCA", "BOCK",
            "BODE", "BODY", "BOGY", "BOHR", "BOIL", "BOLD", "BOLO", "BOLT",
            "BOMB", "BONA", "BOND", "BONE", "BONG", "BONN", "BONY", "BOOK",
            "BOOM", "BOON", "BOOT", "BORE", "BORG", "BORN", "BOSE", "BOSS",
            "BOTH", "BOUT", "BOWL", "BOYD", "BRAD", "BRAE", "BRAG", "BRAN",
            "BRAY", "BRED", "BREW", "BRIG", "BRIM", "BROW", "BUCK", "BUDD",
            "BUFF", "BULB", "BULK", "BULL", "BUNK", "BUNT", "BUOY", "BURG",
            "BURL", "BURN", "BURR", "BURT", "BURY", "BUSH", "BUSS", "BUST",
            "BUSY", "BYTE", "CADY", "CAFE", "CAGE", "CAIN", "CAKE", "CALF",
            "CALL", "CALM", "CAME", "CANE", "CANT", "CARD", "CARE", "CARL",
            "CARR", "CART", "CASE", "CASH", "CASK", "CAST", "CAVE", "CEIL",
            "CELL", "CENT", "CERN", "CHAD", "CHAR", "CHAT", "CHAW", "CHEF",
            "CHEN", "CHEW", "CHIC", "CHIN", "CHOU", "CHOW", "CHUB", "CHUG",
            "CHUM", "CITE", "CITY", "CLAD", "CLAM", "CLAN", "CLAW", "CLAY",
            "CLOD", "CLOG", "CLOT", "CLUB", "CLUE", "COAL", "COAT", "COCA",
            "COCK", "COCO", "CODA", "CODE", "CODY", "COED", "COIL", "COIN",
            "COKE", "COLA", "COLD", "COLT", "COMA", "COMB", "COME", "COOK",
            "COOL", "COON", "COOT", "CORD", "CORE", "CORK", "CORN", "COST",
            "COVE", "COWL", "CRAB", "CRAG", "CRAM", "CRAY", "CREW", "CRIB",
            "CROW", "CRUD", "CUBA", "CUBE", "CUFF", "CULL", "CULT", "CUNY",
            "CURB", "CURD", "CURE", "CURL", "CURT", "CUTS", "DADE", "DALE",
            "DAME", "DANA", "DANE", "DANG", "DANK", "DARE", "DARK", "DARN",
            "DART", "DASH", "DATA", "DATE", "DAVE", "DAVY", "DAWN", "DAYS",
            "DEAD", "DEAF", "DEAL", "DEAN", "DEAR", "DEBT", "DECK", "DEED",
            "DEEM", "DEER", "DEFT", "DEFY", "DELL", "DENT", "DENY", "DESK",
            "DIAL", "DICE", "DIED", "DIET", "DIME", "DINE", "DING", "DINT",
            "DIRE", "DIRT", "DISC", "DISH", "DISK", "DIVE", "DOCK", "DOES",
            "DOLE", "DOLL", "DOLT", "DOME", "DONE", "DOOM", "DOOR", "DORA",
            "DOSE", "DOTE", "DOUG", "DOUR", "DOVE", "DOWN", "DRAB", "DRAG",
            "DRAM", "DRAW", "DREW", "DRUB", "DRUG", "DRUM", "DUAL", "DUCK",
            "DUCT", "DUEL", "DUET", "DUKE", "DULL", "DUMB", "DUNE", "DUNK",
            "DUSK", "DUST", "DUTY", "EACH", "EARL", "EARN", "EASE", "EAST",
            "EASY", "EBEN", "ECHO", "EDDY", "EDEN", "EDGE", "EDGY", "EDIT",
            "EDNA", "EGAN", "ELAN", "ELBA", "ELLA", "ELSE", "EMIL", "EMIT",
            "EMMA", "ENDS", "ERIC", "EROS", "EVEN", "EVER", "EVIL", "EYED",
            "FACE", "FACT", "FADE", "FAIL", "FAIN", "FAIR", "FAKE", "FALL",
            "FAME", "FANG", "FARM", "FAST", "FATE", "FAWN", "FEAR", "FEAT",
            "FEED", "FEEL", "FEET", "FELL", "FELT", "FEND", "FERN", "FEST",
            "FEUD", "FIEF", "FIGS", "FILE", "FILL", "FILM", "FIND", "FINE",
            "FINK", "FIRE", "FIRM", "FISH", "FISK", "FIST", "FITS", "FIVE",
            "FLAG", "FLAK", "FLAM", "FLAT", "FLAW", "FLEA", "FLED", "FLEW",
            "FLIT", "FLOC", "FLOG", "FLOW", "FLUB", "FLUE", "FOAL", "FOAM",
            "FOGY", "FOIL", "FOLD", "FOLK", "FOND", "FONT", "FOOD", "FOOL",
            "FOOT", "FORD", "FORE", "FORK", "FORM", "FORT", "FOSS", "FOUL",
            "FOUR", "FOWL", "FRAU", "FRAY", "FRED", "FREE", "FRET", "FREY",
            "FROG", "FROM", "FUEL", "FULL", "FUME", "FUND", "FUNK", "FURY",
            "FUSE", "FUSS", "GAFF", "GAGE", "GAIL", "GAIN", "GAIT", "GALA",
            "GALE", "GALL", "GALT", "GAME", "GANG", "GARB", "GARY", "GASH",
            "GATE", "GAUL", "GAUR", "GAVE", "GAWK", "GEAR", "GELD", "GENE",
            "GENT", "GERM", "GETS", "GIBE", "GIFT", "GILD", "GILL", "GILT",
            "GINA", "GIRD", "GIRL", "GIST", "GIVE", "GLAD", "GLEE", "GLEN",
            "GLIB", "GLOB", "GLOM", "GLOW", "GLUE", "GLUM", "GLUT", "GOAD",
            "GOAL", "GOAT", "GOER", "GOES", "GOLD", "GOLF", "GONE", "GONG",
            "GOOD", "GOOF", "GORE", "GORY", "GOSH", "GOUT", "GOWN", "GRAB",
            "GRAD", "GRAY", "GREG", "GREW", "GREY", "GRID", "GRIM", "GRIN",
            "GRIT", "GROW", "GRUB", "GULF", "GULL", "GUNK", "GURU", "GUSH",
            "GUST", "GWEN", "GWYN", "HAAG", "HAAS", "HACK", "HAIL", "HAIR",
            "HALE", "HALF", "HALL", "HALO", "HALT", "HAND", "HANG", "HANK",
            "HANS", "HARD", "HARK", "HARM", "HART", "HASH", "HAST", "HATE",
            "HATH", "HAUL", "HAVE", "HAWK", "HAYS", "HEAD", "HEAL", "HEAR",
            "HEAT", "HEBE", "HECK", "HEED", "HEEL", "HEFT", "HELD", "HELL",
            "HELM", "HERB", "HERD", "HERE", "HERO", "HERS", "HESS", "HEWN",
            "HICK", "HIDE", "HIGH", "HIKE", "HILL", "HILT", "HIND", "HINT",
            "HIRE", "HISS", "HIVE", "HOBO", "HOCK", "HOFF", "HOLD", "HOLE",
            "HOLM", "HOLT", "HOME", "HONE", "HONK", "HOOD", "HOOF", "HOOK",
            "HOOT", "HORN", "HOSE", "HOST", "HOUR", "HOVE", "HOWE", "HOWL",
            "HOYT", "HUCK", "HUED", "HUFF", "HUGE", "HUGH", "HUGO", "HULK",
            "HULL", "HUNK", "HUNT", "HURD", "HURL", "HURT", "HUSH", "HYDE",
            "HYMN", "IBIS", "ICON", "IDEA", "IDLE", "IFFY", "INCA", "INCH",
            "INTO", "IONS", "IOTA", "IOWA", "IRIS", "IRMA", "IRON", "ISLE",
            "ITCH", "ITEM", "IVAN", "JACK", "JADE", "JAIL", "JAKE", "JANE",
            "JAVA", "JEAN", "JEFF", "JERK", "JESS", "JEST", "JIBE", "JILL",
            "JILT", "JIVE", "JOAN", "JOBS", "JOCK", "JOEL", "JOEY", "JOHN",
            "JOIN", "JOKE", "JOLT", "JOVE", "JUDD", "JUDE", "JUDO", "JUDY",
            "JUJU", "JUKE", "JULY", "JUNE", "JUNK", "JUNO", "JURY", "JUST",
            "JUTE", "KAHN", "KALE", "KANE", "KANT", "KARL", "KATE", "KEEL",
            "KEEN", "KENO", "KENT", "KERN", "KERR", "KEYS", "KICK", "KILL",
            "KIND", "KING", "KIRK", "KISS", "KITE", "KLAN", "KNEE", "KNEW",
            "KNIT", "KNOB", "KNOT", "KNOW", "KOCH", "KONG", "KUDO", "KURD",
            "KURT", "KYLE", "LACE", "LACK", "LACY", "LADY", "LAID", "LAIN",
            "LAIR", "LAKE", "LAMB", "LAME", "LAND", "LANE", "LANG", "LARD",
            "LARK", "LASS", "LAST", "LATE", "LAUD", "LAVA", "LAWN", "LAWS",
            "LAYS", "LEAD", "LEAF", "LEAK", "LEAN", "LEAR", "LEEK", "LEER",
            "LEFT", "LEND", "LENS", "LENT", "LEON", "LESK", "LESS", "LEST",
            "LETS", "LIAR", "LICE", "LICK", "LIED", "LIEN", "LIES", "LIEU",
            "LIFE", "LIFT", "LIKE", "LILA", "LILT", "LILY", "LIMA", "LIMB",
            "LIME", "LIND", "LINE", "LINK", "LINT", "LION", "LISA", "LIST",
            "LIVE", "LOAD", "LOAF", "LOAM", "LOAN", "LOCK", "LOFT", "LOGE",
            "LOIS", "LOLA", "LONE", "LONG", "LOOK", "LOON", "LOOT", "LORD",
            "LORE", "LOSE", "LOSS", "LOST", "LOUD", "LOVE", "LOWE", "LUCK",
            "LUCY", "LUGE", "LUKE", "LULU", "LUND", "LUNG", "LURA", "LURE",
            "LURK", "LUSH", "LUST", "LYLE", "LYNN", "LYON", "LYRA", "MACE",
            "MADE", "MAGI", "MAID", "MAIL", "MAIN", "MAKE", "MALE", "MALI",
            "MALL", "MALT", "MANA", "MANN", "MANY", "MARC", "MARE", "MARK",
            "MARS", "MART", "MARY", "MASH", "MASK", "MASS", "MAST", "MATE",
            "MATH", "MAUL", "MAYO", "MEAD", "MEAL", "MEAN", "MEAT", "MEEK",
            "MEET", "MELD", "MELT", "MEMO", "MEND", "MENU", "MERT", "MESH",
            "MESS", "MICE", "MIKE", "MILD", "MILE", "MILK", "MILL", "MILT",
            "MIMI", "MIND", "MINE", "MINI", "MINK", "MINT", "MIRE", "MISS",
            "MIST", "MITE", "MITT", "MOAN", "MOAT", "MOCK", "MODE", "MOLD",
            "MOLE", "MOLL", "MOLT", "MONA", "MONK", "MONT", "MOOD", "MOON",
            "MOOR", "MOOT", "MORE", "MORN", "MORT", "MOSS", "MOST", "MOTH",
            "MOVE", "MUCH", "MUCK", "MUDD", "MUFF", "MULE", "MULL", "MURK",
            "MUSH", "MUST", "MUTE", "MUTT", "MYRA", "MYTH", "NAGY", "NAIL",
            "NAIR", "NAME", "NARY", "NASH", "NAVE", "NAVY", "NEAL", "NEAR",
            "NEAT", "NECK", "NEED", "NEIL", "NELL", "NEON", "NERO", "NESS",
            "NEST", "NEWS", "NEWT", "NIBS", "NICE", "NICK", "NILE", "NINA",
            "NINE", "NOAH", "NODE", "NOEL", "NOLL", "NONE", "NOOK", "NOON",
            "NORM", "NOSE", "NOTE", "NOUN", "NOVA", "NUDE", "NULL", "NUMB",
            "OATH", "OBEY", "OBOE", "ODIN", "OHIO", "OILY", "OINT", "OKAY",
            "OLAF", "OLDY", "OLGA", "OLIN", "OMAN", "OMEN", "OMIT", "ONCE",
            "ONES", "ONLY", "ONTO", "ONUS", "ORAL", "ORGY", "OSLO", "OTIS",
            "OTTO", "OUCH", "OUST", "OUTS", "OVAL", "OVEN", "OVER", "OWLY",
            "OWNS", "QUAD", "QUIT", "QUOD", "RACE", "RACK", "RACY", "RAFT",
            "RAGE", "RAID", "RAIL", "RAIN", "RAKE", "RANK", "RANT", "RARE",
            "RASH", "RATE", "RAVE", "RAYS", "READ", "REAL", "REAM", "REAR",
            "RECK", "REED", "REEF", "REEK", "REEL", "REID", "REIN", "RENA",
            "REND", "RENT", "REST", "RICE", "RICH", "RICK", "RIDE", "RIFT",
            "RILL", "RIME", "RING", "RINK", "RISE", "RISK", "RITE", "ROAD",
            "ROAM", "ROAR", "ROBE", "ROCK", "RODE", "ROIL", "ROLL", "ROME",
            "ROOD", "ROOF", "ROOK", "ROOM", "ROOT", "ROSA", "ROSE", "ROSS",
            "ROSY", "ROTH", "ROUT", "ROVE", "ROWE", "ROWS", "RUBE", "RUBY",
            "RUDE", "RUDY", "RUIN", "RULE", "RUNG", "RUNS", "RUNT", "RUSE",
            "RUSH", "RUSK", "RUSS", "RUST", "RUTH", "SACK", "SAFE", "SAGE",
            "SAID", "SAIL", "SALE", "SALK", "SALT", "SAME", "SAND", "SANE",
            "SANG", "SANK", "SARA", "SAUL", "SAVE", "SAYS", "SCAN", "SCAR",
            "SCAT", "SCOT", "SEAL", "SEAM", "SEAR", "SEAT", "SEED", "SEEK",
            "SEEM", "SEEN", "SEES", "SELF", "SELL", "SEND", "SENT", "SETS",
            "SEWN", "SHAG", "SHAM", "SHAW", "SHAY", "SHED", "SHIM", "SHIN",
            "SHOD", "SHOE", "SHOT", "SHOW", "SHUN", "SHUT", "SICK", "SIDE",
            "SIFT", "SIGH", "SIGN", "SILK", "SILL", "SILO", "SILT", "SINE",
            "SING", "SINK", "SIRE", "SITE", "SITS", "SITU", "SKAT", "SKEW",
            "SKID", "SKIM", "SKIN", "SKIT", "SLAB", "SLAM", "SLAT", "SLAY",
            "SLED", "SLEW", "SLID", "SLIM", "SLIT", "SLOB", "SLOG", "SLOT",
            "SLOW", "SLUG", "SLUM", "SLUR", "SMOG", "SMUG", "SNAG", "SNOB",
            "SNOW", "SNUB", "SNUG", "SOAK", "SOAR", "SOCK", "SODA", "SOFA",
            "SOFT", "SOIL", "SOLD", "SOME", "SONG", "SOON", "SOOT", "SORE",
            "SORT", "SOUL", "SOUR", "SOWN", "STAB", "STAG", "STAN", "STAR",
            "STAY", "STEM", "STEW", "STIR", "STOW", "STUB", "STUN", "SUCH",
            "SUDS", "SUIT", "SULK", "SUMS", "SUNG", "SUNK", "SURE", "SURF",
            "SWAB", "SWAG", "SWAM", "SWAN", "SWAT", "SWAY", "SWIM", "SWUM",
            "TACK", "TACT", "TAIL", "TAKE", "TALE", "TALK", "TALL", "TANK",
            "TASK", "TATE", "TAUT", "TEAL", "TEAM", "TEAR", "TECH", "TEEM",
            "TEEN", "TEET", "TELL", "TEND", "TENT", "TERM", "TERN", "TESS",
            "TEST", "THAN", "THAT", "THEE", "THEM", "THEN", "THEY", "THIN",
            "THIS", "THUD", "THUG", "TICK", "TIDE", "TIDY", "TIED", "TIER",
            "TILE", "TILL", "TILT", "TIME", "TINA", "TINE", "TINT", "TINY",
            "TIRE", "TOAD", "TOGO", "TOIL", "TOLD", "TOLL", "TONE", "TONG",
            "TONY", "TOOK", "TOOL", "TOOT", "TORE", "TORN", "TOTE", "TOUR",
            "TOUT", "TOWN", "TRAG", "TRAM", "TRAY", "TREE", "TREK", "TRIG",
            "TRIM", "TRIO", "TROD", "TROT", "TROY", "TRUE", "TUBA", "TUBE",
            "TUCK", "TUFT", "TUNA", "TUNE", "TUNG", "TURF", "TURN", "TUSK",
            "TWIG", "TWIN", "TWIT", "ULAN", "UNIT", "URGE", "USED", "USER",
            "USES", "UTAH", "VAIL", "VAIN", "VALE", "VARY", "VASE", "VAST",
            "VEAL", "VEDA", "VEIL", "VEIN", "VEND", "VENT", "VERB", "VERY",
            "VETO", "VICE", "VIEW", "VINE", "VISE", "VOID", "VOLT", "VOTE",
            "WACK", "WADE", "WAGE", "WAIL", "WAIT", "WAKE", "WALE", "WALK",
            "WALL", "WALT", "WAND", "WANE", "WANG", "WANT", "WARD", "WARM",
            "WARN", "WART", "WASH", "WAST", "WATS", "WATT", "WAVE", "WAVY",
            "WAYS", "WEAK", "WEAL", "WEAN", "WEAR", "WEED", "WEEK", "WEIR",
            "WELD", "WELL", "WELT", "WENT", "WERE", "WERT", "WEST", "WHAM",
            "WHAT", "WHEE", "WHEN", "WHET", "WHOA", "WHOM", "WICK", "WIFE",
            "WILD", "WILL", "WIND", "WINE", "WING", "WINK", "WINO", "WIRE",
            "WISE", "WISH", "WITH", "WOLF", "WONT", "WOOD", "WOOL", "WORD",
            "WORE", "WORK", "WORM", "WORN", "WOVE", "WRIT", "WYNN", "YALE",
            "YANG", "YANK", "YARD", "YARN", "YAWL", "YAWN", "YEAH", "YEAR",
            "YELL", "YOGA", "YOKE"};

    static Long extract(byte[] s, int start, int length) {
        int cl;
        int cc;
        int cr;
        long x;

        assert (length <= 11);
        assert (start >= 0);
        assert (length >= 0);
        assert (start + length <= 66);

        cl = s[start / 8] & 0xFF;                     
        cc = s[start / 8 + 1] & 0xFF;
        cr = s[start / 8 + 2] & 0xFF;

        x = ((long) (cl << 8 | cc) << 8 | cr); // Put bits together
        x = x >> (24 - (length + (start % 8))); // Right justify number
        x = (x & (0xffff >> (16 - length))); // Trim extra bits.

        return x;
    }

    static String btoe(byte[] strData) {
        byte[] caBuffer = new byte[10];     /* add in room for the parity 2 bits*/
        int p, i;
        System.arraycopy(strData, 0, caBuffer, 0, 8);
        
        for (p = 0, i = 0; i < 64; i += 2)
            p += extract(caBuffer, i, 2);

        caBuffer[8] = (byte) (p << 6);

        String human = ""
                + WORDLIST[extract(caBuffer, 0, 11).intValue()] + " "
                + WORDLIST[extract(caBuffer, 11, 11).intValue()] + " "
                + WORDLIST[extract(caBuffer, 22, 11).intValue()] + " "
                + WORDLIST[extract(caBuffer, 33, 11).intValue()] + " "
                + WORDLIST[extract(caBuffer, 44, 11).intValue()] + " "
                + WORDLIST[extract(caBuffer, 55, 11).intValue()];
        return human;
    }

    static String etob(Collection<String> vsHuman) {
        int i, p, v, l;
        byte[] bytes = new byte[11];

        if (6 != vsHuman.size())
            return null;

        for (int j = 0; j < bytes.length; j++) {
            bytes[j] = 0;
        }

        p = 0;
        for (String strWord : vsHuman) {
            l = strWord.length();

            if (l > 4 || l < 1)
                return null;

            strWord = standard(strWord);

            v = ArrayUtils.indexOf(WORDLIST, strWord, 0);

            if (v < 0)
                return null;

            bytes = insert(bytes, v, p, 11);
            p += 11;
        }
        for (p = 0, i = 0; i < 64; i += 2)
            p += extract(bytes, i, 2);

        if ((p & 3) != extract(bytes, 64, 2))
            return null;

        String strData = new String(Hex.encode(ArrayUtils.subarray(bytes, 0, 8)));

        return strData;
    }

    static byte[] insert(byte[] s, int x, int start, int length) {
        int cl;
        int cc;
        int cr;
        long y;
        int shift;

        assert (length <= 11);
        assert (start >= 0);
        assert (length >= 0);
        assert (start + length <= 66);

        shift = ((8 - ((start + length) % 8)) % 8);
        y = x << shift;
        cl = (int) (y >> 16) & 0xff;
        cc = (int) (y >> 8) & 0xff;
        cr = (int) y & 0xff;

        if (shift + length > 16) {
            s[start / 8] |= cl;
            s[start / 8 + 1] |= cc;
            s[start / 8 + 2] |= cr;
        } else if (shift + length > 8) {
            s[start / 8] |= cc;
            s[start / 8 + 1] |= cr;
        } else {
            s[start / 8] |= cr;
        }
        return s;
    }

    static String standard(String strWord) {
        char[] letters = strWord.toCharArray();
        for (int i = 0; i < letters.length; i++) {
            char letter = letters[i];
            if (Character.isLowerCase(letter))
                letter = Character.toUpperCase(letter);
            else if (letter == '1')
                letter = 'L';
            else if (letter == '0')
                letter = 'O';
            else if (letter == '5')
                letter = 'S';
            letters[i] = letter;
        }
        return new String(letters);
    }

    public static String key2English(byte[] bytes) {
        String upper = btoe(ArrayUtils.subarray(bytes, 0, 8));
        String lower = btoe(ArrayUtils.subarray(bytes, 8, 16));
        return upper + lower;
    }

    public static String getKeyFromEnglish(String strHuman) {
        String strFirst = null, strSecond = null;
        String strTrimmed = strHuman.trim();
        String[] words = strTrimmed.split(" ");
        String rc = 12 == words.length ? "" : null;

        if (rc != null)
            strFirst = etob(Arrays.asList(ArrayUtils.subarray(words, 0, 6)));

        if (strFirst != null)
            strSecond = etob(Arrays.asList(ArrayUtils.subarray(words, 6, 12)));

        if (strSecond != null) {
            String strKey = strFirst + strSecond;
            byte[] bytes = Hex.decode(strKey);
            return new String(Hex.encode(bytes));
        }
        return null;
    }
}


2014年12月4日星期四

redis中的跳跃表

Redis已经越来越多的被应用。本文主要讨论的是跳跃表(skiplist)在redis中的应用。

跳跃表

跳跃表(skiplist)是一种随机的数据结构,以有序的方式在链表中保存数据,可以达到和平衡树类似的效率,增删改查可以在对数复杂度时间内完成。
跳跃表示例
从上图看出,跳跃由以下几个部分组成:

  • 表头(head):负责维护跳跃表的节点指针。 
  • 跳跃表节点:保存着元素值,以及多个层。 
  • 层:保存着指向其他元素的指针。高层的指针越过的元素数量大于等于低层的指针,为了提高查找的效率,程序总是从高层先开始访问,然后随着元素值范围的缩小,慢慢降低层次。 
  • 表尾:全部由 NULL 组成,表示跳跃表的末尾。

Redis中的跳跃表

为了满足自身的要求,redis在使用跳跃表时做了以下改动: 

  1. 允许重复的 score 值:多个不同的 member 的 score 值可以相同。 
  2. 进行对比操作时,不仅要检查 score 值,还要检查 member :当 score 值可以重复时,单靠 score 值无法判断一个元素的身份,所以需要连 member 域都一并检查才行。 
  3. 每个节点都带有一个高度为 1 层的后退指针,用于从表尾方向向表头方向迭代。当执行 ZREVRANGE 或 ZREVRANGEBYSCORE 这类以逆序处理有序集的命令时,就会用到这个属性。

以下是操作这两个数据结构的 API ,API 的用途与相应的算法复杂度:

函数作用复杂度
zslCreateNode创建并返回一个新的跳跃表节点最坏 O(1)
zslFreeNode释放给定的跳跃表节点最坏 O(1)
zslCreate创建并初始化一个新的跳跃表最坏 O(1)
zslFree释放给定的跳跃表最坏 O(N)
zslInsert将一个包含给定 score 和 member 的新节点添加到跳跃表中最坏 O(N) 平均 O(logN)
zslDeleteNode删除给定的跳跃表节点最坏 O(N)
zslDelete删除匹配给定 member 和 score 的元素最坏 O(N) 平均 O(logN)
zslFirstInRange找到跳跃表中第一个符合给定范围的元素最坏 O(N) 平均 O(logN)
zslLastInRange找到跳跃表中最后一个符合给定范围的元素最坏 O(N) 平均 O(logN)
zslDeleteRangeByScore删除 score 值在给定范围内的所有节点最坏 O(N2)
zslDeleteRangeByRank删除给定排序范围内的所有节点最坏 O(N2)
zslGetRank返回目标元素在有序集中的排位最坏 O(N) 平均 O(logN)
zslGetElementByRank根据给定排位,返回该排位上的元素节点最坏 O(N) 平均 O(logN)

参考资料

  • http://redisbook.readthedocs.org/en/latest/internal-datastruct/skiplist.html
  • http://en.wikipedia.org/wiki/Skip_list

2014年8月29日星期五

Facebook/Swift:简化Java中Thrift开发的工具

用Thrift在java中开发过的同学都了解,使用Thrift的IDL语言生成的java文件是无比巨大和复杂的。很多时候对这样一种超大的实体和service定义都感到非常无力。增减方法,增减字段的文件替换都非常不方便。还好发现了一个简化开发的工具,Facebook/Swift,github地址:https://github.com/facebook/swift
这个框架的核心原理是通过定义和实现注解来达到简化Thrift文件的目的,使得在开发时定义的POJO和Interface都能够和普通的java文件一致;
我们直接看例子,我们定义一个实体类,可以简化写法是:
@ThriftStruct
public class ThirdPartyCollection {

    public final long id; // required
    public final String date; // optional

    @ThriftConstructor
    public ThirdPartyCollection(long id, String date) {
        this.id = id;
        this.date = date;
    }
    @ThriftField(1)
    public long getId() {
        return id;
    }
    @ThriftField(2)
    public String getDate() {
        return date;
    }    
这要比直接使用thrift IDL生成的java代码简单非常多的倍数;
定义service写法如下:
@ThriftService("ThirdPartyCollectionService")
public interface ThirdPartyCollectionService {
    @ThriftMethod
    public ThirdPartyCollection save(@ThriftField(name = "collection") ThirdPartyCollection collection) throws IllegalAccessException, NoSuchMethodException, InvocationTargetException;
    @ThriftMethod
    public ThirdPartyCollection update(@ThriftField(name = "collection") ThirdPartyCollection collection);
    @ThriftMethod
    public List<ThirdPartyCollection> getAll();
}
写法需要在类和方法以及方法参数增加注解即可。
同时,启动服务和client调用的代码也有所变动:
public static void main(String[] args) throws IOException, InterruptedException {
        ThriftServiceProcessor processor = new ThriftServiceProcessor(
                new ThriftCodecManager(),
                ImmutableList.<ThriftEventHandler>of(),
                new ThirdPartyCollectionServiceImpl()
        );

        taskWorkerExecutor = newFixedThreadPool(1);

        ThriftServerDef serverDef = ThriftServerDef.newBuilder()
                .listen(8899)
                .withProcessor(processor)
                .using(taskWorkerExecutor)
                .build();

        bossExecutor = newCachedThreadPool();
        ioWorkerExecutor = newCachedThreadPool();

        NettyServerConfig serverConfig = NettyServerConfig.newBuilder()
                .setBossThreadExecutor(bossExecutor)
                .setWorkerThreadExecutor(ioWorkerExecutor)
                .build();

        server = new ThriftServer(serverConfig, serverDef);
        server.start();
}
Client端调用代码:
public static void main(String[] args) throws ExecutionException, InterruptedException, IllegalAccessException, NoSuchMethodException, InvocationTargetException {
        ThriftClientManager clientManager = new ThriftClientManager();
        FramedClientConnector connector = new FramedClientConnector(new InetSocketAddress("localhost",8899));
        ThirdPartyCollectionService scribe = clientManager.createClient(connector, ThirdPartyCollectionService.class).get();
        scribe.getAll();
        com.qiyi.thrift.test.core.ThirdPartyCollection collection =
                new com.qiyi.thrift.test.core.ThirdPartyCollection(1001, "2014-08-29");
        scribe.save(collection);
}