Trang Chủ Tài chính Cá nhân Phát triển Oozie Quy trình làm việc trong Hadoop

Phát triển Oozie Quy trình làm việc trong Hadoop

Video: Technology Stacks - Computer Science for Business Leaders 2016 2025

Video: Technology Stacks - Computer Science for Business Leaders 2016 2025
Anonim

Oozie quy trình công việc, ở cốt lõi của họ, chỉ đạo đồ thị, nơi bạn có thể xác định hành động (ứng dụng Hadoop) và luồng dữ liệu, nhưng không có looping- có nghĩa là bạn có thể ' t xác định cấu trúc nơi bạn sẽ chạy một thao tác cụ thể hơn và hơn cho đến khi một số điều kiện được đáp ứng (ví dụ một vòng lặp).

Luồng công việc Oozie khá linh hoạt khi bạn có thể xác định các quyết định dựa trên điều kiện và các đường dẫn chia nhỏ để thực thi song song. Bạn cũng có thể thực hiện một loạt các hành động.

Trong hình này, bạn sẽ thấy một luồng công việc thể hiện các khả năng cơ bản của luồng công việc Oozie. Đầu tiên, một kịch bản Pig được chạy và ngay sau đó là một cây quyết định. Tùy thuộc vào trạng thái của đầu ra, luồng điều khiển có thể trực tiếp truy cập vào hoạt động của tệp HDFS (Hadoop Distributed File System) (ví dụ hoạt động copyToLocal) hoặc hành động ngã ba.

Nếu luồng điều khiển đi qua hành động ngã ba, hai công việc được chạy đồng thời: một công việc MapReduce và truy vấn Hive. Dòng điều khiển sau đó đi đến hoạt động HDFS khi cả công việc MapReduce và truy vấn Hive đã kết thúc. Sau khi hoạt động HDFS, tiến trình công việc đã hoàn tất.

Các định nghĩa luồng công việc Oozie được viết bằng XML, dựa trên lược đồ Html Định nghĩa Tiến trình Hadoop (hPDL). Do đó, lược đồ cụ thể này dựa trên lược đồ XML Definition Quy trình Xâu (XPDL), là một tiêu chuẩn độc lập cho sản phẩm để mô hình các định nghĩa quy trình nghiệp vụ.

Luồng công việc của Oozie bao gồm một loạt các hành động được mã hoá bởi các nút XML. Có nhiều loại nút khác nhau, đại diện cho các loại hành động khác nhau hoặc chỉ thị dòng chảy điều khiển. Mỗi luồng công việc Oozie đều có tệp tin XML riêng, nơi mà mỗi nút và các kết nối của nó được định nghĩa.

Các luồng luồng công việc đều yêu cầu các số nhận dạng duy nhất bởi vì chúng được sử dụng để xác định nút tiếp theo cần được xử lý trong luồng công việc. Điều này có nghĩa là thứ tự mà hành động được thực hiện phụ thuộc vào nơi mà nút hành động xuất hiện trong luồng công việc XML. Để xem khái niệm này sẽ như thế nào, hãy kiểm tra danh sách sau đây, cho thấy một ví dụ về cấu trúc cơ bản của tệp XML của luồng công việc Oozie.

… … "Công việc bị giết."

Trong ví dụ này, ngoài việc bắt đầu, kết thúc và giết các nút, bạn có hai nút hành động. Mỗi nút hành động đại diện cho một ứng dụng hoặc một lệnh đang được thực thi.

Phát triển Oozie Quy trình làm việc trong Hadoop

Lựa chọn của người biên tập

Web Marketing: Loại bỏ đăng ký và đăng nhập để đảm bảo khả năng hiển thị - núm vú

Web Marketing: Loại bỏ đăng ký và đăng nhập để đảm bảo khả năng hiển thị - núm vú

Tiếp thị web, một cách để đảm bảo khả năng hiển thị là để loại bỏ đăng ký và các hình thức đăng nhập. Khách truy cập thường phải hoàn thành các biểu mẫu này trước khi họ có thể tải xuống một số loại nội dung cao cấp, chẳng hạn như giấy trắng hoặc trước khi họ có thể đọc một số bài viết trên trang web. Các công ty đã đưa chúng vào vị trí vì họ muốn dẫn ...

Web Marketing: Làm thế nào để Tránh Duplicate Content - núm vú

Web Marketing: Làm thế nào để Tránh Duplicate Content - núm vú

Duplicate nội dung cần tránh trong web tiếp thị và Google cung cấp công cụ để phát hiện thông tin lặp lại. Không có gì gây tổn hại cho việc tìm kiếm nội dung có liên quan của công cụ tìm kiếm cũng như tìm ra chính xác những từ giống nhau trên hai trang khác nhau. Sao chép là xấu vì những lý do này: Sao chép được sử dụng để được một chiến thuật được sử dụng để đánh lừa ...

Web Marketing: Làm thế nào để Deal với Broken Links - núm vú

Web Marketing: Làm thế nào để Deal với Broken Links - núm vú

Trong bài hát của họ. Là một nhà tiếp thị web, việc xử lý các liên kết hỏng này có thể giúp đảm bảo sự thành công của trang web của bạn. Nếu một công cụ tìm kiếm đạt đến một liên kết bị hỏng, nó không thể tìm thấy trang bạn dự định (rõ ràng) - nhưng nó cũng có thể bỏ trên trang web của bạn hoặc giảm sự liên quan ...

Lựa chọn của người biên tập

Các kiểu dữ liệu điểm nổi trong Java - núm vú

Các kiểu dữ liệu điểm nổi trong Java - núm vú

Số dấu phẩy động là số có các phần phân đoạn (thường được thể hiện bằng dấu thập phân). Bạn nên sử dụng một kiểu điểm nổi trong các chương trình Java bất cứ khi nào bạn cần một số có số thập phân, như là 19. 95 hoặc 3. 1415. Java có hai kiểu nguyên thủy cho các số dấu phẩy: float: Sử dụng 4 byte gấp đôi: Sử dụng 8 bytes Trong hầu hết tất cả ...

Tải phiên bản mới nhất của Java - núm vú

Tải phiên bản mới nhất của Java - núm vú

Trước khi bạn có thể viết các chương trình Java cho các thiết bị Android, bạn cần một số phần mềm công cụ, bao gồm cả phiên bản mới nhất của Java. Bạn có thể có được phiên bản Java mới nhất và lớn nhất bằng cách truy cập vào trang web Java. Trang web cung cấp một số lựa chọn thay thế. (Được giới thiệu) Nhấp chuột vào nút Free Java Download trên trang chính của trang web. Đối với hầu hết các máy tính, ...

Thử nghiệm với JShell - núm vú

Thử nghiệm với JShell - núm vú

JShell là một công cụ Java 9 cho phép bạn khám phá về lập trình. JShell làm cho nó dễ dàng để chơi xung quanh mà không sợ hậu quả thảm khốc. Các chương trình Java thường sử dụng cùng kiểu cũ, lúng túng: public class SomethingOrOther {public static void main (String args []) {Một chương trình Java đòi hỏi sự giới thiệu này bởi vì trong Java ...

Lựa chọn của người biên tập

Hẹn hò Sau 50: Tâm linh và Tôn giáo - những con voi

Hẹn hò Sau 50: Tâm linh và Tôn giáo - những con voi

Bản quyền © 2014 AARP Tất cả các quyền được bảo lưu. Tâm linh và tôn giáo, tình dục, những trò vui nhộn nhịp, sự tham gia của gia đình, lối sống và tiền bạc - tất cả những điều này thường quan trọng đối với những người trên 50 tuổi, nhưng bạn có thể đặt một số cao hơn những người khác. Trong bất kỳ trường hợp nào, điều quan trọng là phải suy nghĩ về họ trước để bạn có thể thảo luận ...

Hẹn hò Sau 50: Nói về Monogami - vú

Hẹn hò Sau 50: Nói về Monogami - vú

Bản quyền © 2014 AARP. Đã đăng ký Bản quyền. Một vợ một chồng là một vấn đề lớn cho dù bạn là người chưa sẵn sàng cho vợ chồng một vợ chồng và muốn hẹn hò xung quanh hay người chỉ có thể quan hệ tình dục với một người một lần. Đảm bảo đối tác hẹn hò của bạn biết bạn đang đứng ở đâu (hoặc nằm xuống) đối với vợ chồng một vợ chồng ...

Hẹn hò Sau 50: Thảo luận về sức khoẻ cá nhân của bạn - những con voi

Hẹn hò Sau 50: Thảo luận về sức khoẻ cá nhân của bạn - những con voi

Bản quyền © 2014 AARP. Đã đăng ký Bản quyền. Nếu bạn bị bệnh mãn tính hoặc đe dọa đến mạng sống khi bạn còn nhỏ, bạn đã có kinh nghiệm về sức khoẻ của mình. Có thể bạn phải liên tục kể câu chuyện về vết sẹo ngực hoặc nẹp chân hoặc giải thích số ít các viên thuốc mà bạn phải dùng mỗi ngày. Nó không phải ...