Logo nl.boatexistence.com

Hoe werken mappers en reducers?

Inhoudsopgave:

Hoe werken mappers en reducers?
Hoe werken mappers en reducers?

Video: Hoe werken mappers en reducers?

Video: Hoe werken mappers en reducers?
Video: Hoe werken pointcloudviewers? 2024, Mei
Anonim

De uitvoer van een Mapper- of kaarttaak (sleutel-waardeparen) is invoer naar de Reducer De reducer ontvangt het sleutel-waardepaar van meerdere kaarttaken. Vervolgens aggregeert de verkleiner die tussenliggende gegevenstupels (tussenliggende sleutel-waardepaar) in een kleinere set van tuples of sleutel-waardeparen, wat de uiteindelijke uitvoer is.

Wat doen mappers en reducers?

Hadoop Mapper is een functie of taak die wordt gebruikt om alle invoerrecords uit een bestand te verwerken en de uitvoer te genereren die werkt als invoer voor Reducer Het produceert de uitvoer door nieuwe te retourneren sleutel/waarde-paren. … De mapper genereert ook enkele kleine blokken gegevens terwijl de invoerrecords worden verwerkt als een sleutel-waardepaar.

Wat is het verschil tussen mapper en reducer?

Wat is het belangrijkste verschil tussen Mapper en Reducer? Mapper-taak is de eerste verwerkingsfase die elk invoerrecord(van RecordReader) verwerkt en een tussenliggend sleutel-waardepaar genereert. De methode Reduce wordt apart aangeroepen voor elk sleutel/waardenlijstpaar.

Hoe bereken je het aantal mappers en reducers?

Het hangt af van hoeveel cores en hoeveel geheugen je op elke slave hebt. Over het algemeen zou één mapper 1 tot 1,5 processorcores moeten krijgen. Dus als je 100 data nodes in Hadoop Cluster hebt, dan kan men 1000 Mappers in een Cluster draaien.

Hoe werkt de Mapper-functie?

Mapper is een functie die de invoergegevens verwerkt De mapper verwerkt de gegevens en creëert verschillende kleine stukjes gegevens. De invoer voor de mapper-functie is in de vorm van (sleutel, waarde) paren, ook al is de invoer voor een MapReduce-programma een bestand of map (die is opgeslagen in de HDFS).

Aanbevolen: