Trang Chủ Tài chính Cá nhân Tầm quan trọng của MapReduce trong Hadoop - núm vú

Tầm quan trọng của MapReduce trong Hadoop - núm vú

Video: Lưu trữ đám mây - Cloud Storage S3 là gì? (Eng-sub) | IT Share - VNETWORK 2025

Video: Lưu trữ đám mây - Cloud Storage S3 là gì? (Eng-sub) | IT Share - VNETWORK 2025
Anonim

Đối với hầu hết lịch sử của Hadoop, MapReduce là trò chơi duy nhất trong thị trấn khi xử lý dữ liệu. Tính sẵn có của MapReduce là lý do cho sự thành công của Hadoop và đồng thời là yếu tố chính trong việc hạn chế tiếp nhận.

MapReduce cho phép các lập trình lành nghề viết các ứng dụng phân tán mà không phải lo lắng về cơ sở hạ tầng tính toán phân tán bên dưới. Đây là một việc rất lớn: Hadoop và framework MapReduce xử lý tất cả các loại phức tạp mà các nhà phát triển ứng dụng không cần phải xử lý.

Mặt khác của đồng xu ở đây là mặc dù MapReduce che giấu một lượng lớn phức tạp, bạn không thể quên được nó là gì: một giao diện cho lập trình song song. Đây là một kỹ năng tiên tiến - và là một rào cản cho việc nhận con nuôi rộng rãi hơn. Có rất ít người lập trình MapReduce, và không phải ai cũng có kỹ năng để làm chủ nó.

Trong những ngày đầu của Hadoop (Hadoop 1 và trước đó), bạn chỉ có thể chạy các ứng dụng MapReduce trên các nhóm của bạn. Trong Hadoop 2, thành phần YARN đã thay đổi tất cả những điều đó bằng cách tiếp quản quá trình quản lý và lập lịch trình từ khuôn khổ MapReduce và cung cấp một giao diện chung để tạo thuận lợi cho các ứng dụng chạy trên một cụm Hadoop.

Tóm lại, điều này có nghĩa là MapReduce bây giờ chỉ là một trong nhiều khuôn khổ ứng dụng mà bạn có thể sử dụng để phát triển và chạy các ứng dụng trên Hadoop. Mặc dù nó chắc chắn có thể chạy các ứng dụng sử dụng các khuôn khổ khác trên Hadoop, điều đó không có nghĩa là chúng ta có thể bắt đầu quên MapReduce.

MapReduce hiện là bộ xử lý dữ liệu sẵn sàng sản xuất sẵn có cho Hadoop. Mặc dù các khuôn khổ khác cuối cùng sẽ trở nên có sẵn, MapReduce đã gần một thập kỷ trưởng thành theo vành đai của nó (với gần 4.000 vấn đề JIRA hoàn thành, liên quan đến hàng trăm nhà phát triển, nếu bạn đang theo dõi).

Không có tranh chấp: MapReduce là khuôn khổ trưởng thành nhất của Hadoop để xử lý dữ liệu. Ngoài ra, một số lượng đáng kể của mã MapReduce hiện đang được sử dụng mà không có khả năng để đi bất cứ nơi nào sớm. Câu chuyện dài ngắn: MapReduce là một phần quan trọng của câu chuyện Hadoop.

Các dự án Apache Hive và Apache Pig rất phổ biến vì chúng là các điểm vào dễ dàng hơn cho việc xử lý dữ liệu trên Hadoop. Đối với nhiều vấn đề, đặc biệt là các loại mà bạn có thể giải quyết với SQL, Hive và Pig là những công cụ xuất sắc.Nhưng đối với một công việc rộng lớn hơn như xử lý thống kê hoặc trích xuất văn bản, và đặc biệt là để xử lý dữ liệu phi cấu trúc, bạn cần phải sử dụng MapReduce.

Tầm quan trọng của MapReduce trong Hadoop - núm vú

Lựa chọn của người biên tập

Web Marketing: Loại bỏ đăng ký và đăng nhập để đảm bảo khả năng hiển thị - núm vú

Web Marketing: Loại bỏ đăng ký và đăng nhập để đảm bảo khả năng hiển thị - núm vú

Tiếp thị web, một cách để đảm bảo khả năng hiển thị là để loại bỏ đăng ký và các hình thức đăng nhập. Khách truy cập thường phải hoàn thành các biểu mẫu này trước khi họ có thể tải xuống một số loại nội dung cao cấp, chẳng hạn như giấy trắng hoặc trước khi họ có thể đọc một số bài viết trên trang web. Các công ty đã đưa chúng vào vị trí vì họ muốn dẫn ...

Web Marketing: Làm thế nào để Tránh Duplicate Content - núm vú

Web Marketing: Làm thế nào để Tránh Duplicate Content - núm vú

Duplicate nội dung cần tránh trong web tiếp thị và Google cung cấp công cụ để phát hiện thông tin lặp lại. Không có gì gây tổn hại cho việc tìm kiếm nội dung có liên quan của công cụ tìm kiếm cũng như tìm ra chính xác những từ giống nhau trên hai trang khác nhau. Sao chép là xấu vì những lý do này: Sao chép được sử dụng để được một chiến thuật được sử dụng để đánh lừa ...

Web Marketing: Làm thế nào để Deal với Broken Links - núm vú

Web Marketing: Làm thế nào để Deal với Broken Links - núm vú

Trong bài hát của họ. Là một nhà tiếp thị web, việc xử lý các liên kết hỏng này có thể giúp đảm bảo sự thành công của trang web của bạn. Nếu một công cụ tìm kiếm đạt đến một liên kết bị hỏng, nó không thể tìm thấy trang bạn dự định (rõ ràng) - nhưng nó cũng có thể bỏ trên trang web của bạn hoặc giảm sự liên quan ...

Lựa chọn của người biên tập

Các kiểu dữ liệu điểm nổi trong Java - núm vú

Các kiểu dữ liệu điểm nổi trong Java - núm vú

Số dấu phẩy động là số có các phần phân đoạn (thường được thể hiện bằng dấu thập phân). Bạn nên sử dụng một kiểu điểm nổi trong các chương trình Java bất cứ khi nào bạn cần một số có số thập phân, như là 19. 95 hoặc 3. 1415. Java có hai kiểu nguyên thủy cho các số dấu phẩy: float: Sử dụng 4 byte gấp đôi: Sử dụng 8 bytes Trong hầu hết tất cả ...

Tải phiên bản mới nhất của Java - núm vú

Tải phiên bản mới nhất của Java - núm vú

Trước khi bạn có thể viết các chương trình Java cho các thiết bị Android, bạn cần một số phần mềm công cụ, bao gồm cả phiên bản mới nhất của Java. Bạn có thể có được phiên bản Java mới nhất và lớn nhất bằng cách truy cập vào trang web Java. Trang web cung cấp một số lựa chọn thay thế. (Được giới thiệu) Nhấp chuột vào nút Free Java Download trên trang chính của trang web. Đối với hầu hết các máy tính, ...

Thử nghiệm với JShell - núm vú

Thử nghiệm với JShell - núm vú

JShell là một công cụ Java 9 cho phép bạn khám phá về lập trình. JShell làm cho nó dễ dàng để chơi xung quanh mà không sợ hậu quả thảm khốc. Các chương trình Java thường sử dụng cùng kiểu cũ, lúng túng: public class SomethingOrOther {public static void main (String args []) {Một chương trình Java đòi hỏi sự giới thiệu này bởi vì trong Java ...

Lựa chọn của người biên tập

Hẹn hò Sau 50: Tâm linh và Tôn giáo - những con voi

Hẹn hò Sau 50: Tâm linh và Tôn giáo - những con voi

Bản quyền © 2014 AARP Tất cả các quyền được bảo lưu. Tâm linh và tôn giáo, tình dục, những trò vui nhộn nhịp, sự tham gia của gia đình, lối sống và tiền bạc - tất cả những điều này thường quan trọng đối với những người trên 50 tuổi, nhưng bạn có thể đặt một số cao hơn những người khác. Trong bất kỳ trường hợp nào, điều quan trọng là phải suy nghĩ về họ trước để bạn có thể thảo luận ...

Hẹn hò Sau 50: Nói về Monogami - vú

Hẹn hò Sau 50: Nói về Monogami - vú

Bản quyền © 2014 AARP. Đã đăng ký Bản quyền. Một vợ một chồng là một vấn đề lớn cho dù bạn là người chưa sẵn sàng cho vợ chồng một vợ chồng và muốn hẹn hò xung quanh hay người chỉ có thể quan hệ tình dục với một người một lần. Đảm bảo đối tác hẹn hò của bạn biết bạn đang đứng ở đâu (hoặc nằm xuống) đối với vợ chồng một vợ chồng ...

Hẹn hò Sau 50: Thảo luận về sức khoẻ cá nhân của bạn - những con voi

Hẹn hò Sau 50: Thảo luận về sức khoẻ cá nhân của bạn - những con voi

Bản quyền © 2014 AARP. Đã đăng ký Bản quyền. Nếu bạn bị bệnh mãn tính hoặc đe dọa đến mạng sống khi bạn còn nhỏ, bạn đã có kinh nghiệm về sức khoẻ của mình. Có thể bạn phải liên tục kể câu chuyện về vết sẹo ngực hoặc nẹp chân hoặc giải thích số ít các viên thuốc mà bạn phải dùng mỗi ngày. Nó không phải ...