LangFlow | Giao diện người dùng cho LangChain để phát triển ứng dụng với LLM

Hãy bắt đầu với Langflow

Bây giờ, chúng ta đã xem LangFlow là gì và nó phù hợp như thế nào, hãy cùng tìm hiểu sâu hơn về chức năng của nó. Giao diện người dùng LangFlow có sẵn cho cả Javascript và Python. Bạn có thể lấy một cái ra khỏi nó và bắt đầu làm việc với nó. Đối với phiên bản Python, người ta cần có Python trong hệ thống của họ và thư viện LangChain.

Nếu bạn muốn làm việc với LangFlow, bạn cần có các Gói bên dưới

Ở trên sẽ cài đặt Gói Langflow và Gói LangChain. Bây giờ để khởi động giao diện người dùng, hãy sử dụng lệnh sau

Bây giờ giao diện người dùng LangFlow đã hoạt động. Nó đang chạy trên máy chủ cục bộ trên Cổng số 7860. Bằng cách này bạn có thể cài đặt và bắt đầu làm việc với LangFlow.

Các nhà sản xuất LangFlow tức là LogSpace AI đã trực tiếp triển khai LangFlow trên Trang web HuggingFace. Bạn có thể nhấp vào đây để truy cập trang web HuggingFace hoặc tìm kiếm trên Google. Nó sẽ trông giống như bên dưới, sau đó nhấp vào Dự án mới.

Khi bạn nhấp vào Tạo dự án mới, giao diện người dùng LangFlow sẽ xuất hiện.

Ở đây khoảng trắng là nơi chúng ta sẽ tạo các ứng dụng bằng cách kéo các Thành phần. Và các comp hiện diện ở phía bên trái (Đại lý, Chuỗi, Trình tải, v.v.). Vì vậy, khi bạn nhấp vào Comps, bạn sẽ thấy các loại khác nhau, từ đó bạn sẽ chọn một loại và kéo nó vào khoảng trắng. Trong khoảng trắng, sau đó bạn sẽ kết hợp các Comp khác nhau để tạo nên toàn bộ ứng dụng.

Tìm hiểu giao diện người dùng LangFlow

Trong phần này, chúng ta sẽ tìm hiểu ngắn gọn về UI của LangFlow, các Thành phần trình bày nó và cách thức hoạt động của UI, để hiểu rõ hơn về cách xây dựng Ứng dụng Ngôn ngữ Lớn một cách nhanh chóng với LangFlow

Trong hình trên, chúng ta thấy phần trên cùng bên phải của Giao diện người dùng LangFlow. Ý nghĩa của các biểu tượng có thể hiểu được. Biểu tượng thứ hai đại diện cho tùy chọn Xuất. Vì vậy, khi chúng tôi xây dựng một ứng dụng thông qua LangFlow và bây giờ chúng tôi muốn tải ứng dụng đó xuống máy cục bộ của mình. Sau đó, chúng ta có thể làm như vậy bằng cách chuyển đổi cấu hình ứng dụng của mình thành tệp JSON. Nhấp vào tùy chọn Xuất sẽ cho phép bạn tải xuống tệp JSON chứa thông tin về ứng dụng của bạn. Bây giờ nếu bạn của bạn muốn xây dựng ứng dụng tương tự, anh ấy có thể chỉ cần nhấp vào tùy chọn đầu tiên là Nhập, sau đó chuyển tệp JSON của bạn cho nó.

Tùy chọn thứ ba chuyển đổi ứng dụng của bạn thành Mã Python, sau đó bạn có thể làm việc trực tiếp với mã này trong hệ thống cục bộ của mình, thay vì truy cập trang web LangFlow mỗi khi bạn muốn sử dụng ứng dụng đó.

LangChain có các trình bao bọc cho nhiều Mô hình ngôn ngữ lớn. Mỗi Mô hình ngôn ngữ lớn đều có API riêng để hoạt động. Vì vậy, khi cố gắng làm việc với LLM trong LangFlow, nó cung cấp cho chúng tôi tùy chọn để thêm Khóa API như có thể thấy ở trên. Cùng với đó, chúng tôi thậm chí còn có tùy chọn để chọn loại Mô hình ngôn ngữ lớn mà chúng tôi muốn làm việc.

XEM THÊM: Cách đăng kí trải nghiệm tài khoản chat gpt plus.

Xây dựng ứng dụng trò chuyện đơn giản với LangFlow

Trong phần này, chúng ta sẽ tạo một ứng dụng chatbot đơn giản hoạt động với Giao diện người dùng LangFlow. Ứng dụng này liên quan đến việc làm việc với Mô hình ngôn ngữ lớn OpenAI, do đó, phải có Khóa API mở để hoạt động với ứng dụng này. Ứng dụng chúng tôi sẽ tạo là một chatbot sẽ trả lời các câu hỏi của người dùng một cách hài hước.

Vì vậy, ứng dụng chúng tôi sẽ tạo sẽ có 3 thành phần, Mô hình ngôn ngữ lớn, Mẫu lời nhắc và Chuỗi LLM kết nối chúng. Trước tiên, hãy bắt đầu bằng cách kéo trình bao bọc OpenAI của LangChain vào phần chấm trong giao diện người dùng.

Trình bao bọc mô hình ngôn ngữ lớn OpenAI

Bạn có thể tìm thấy trình bao bọc Mô hình ngôn ngữ lớn AI mở trong phần LLM của LangFlow. Chúng ta có thể kéo nó vào phần màu trắng. Ở đây bây giờ chúng ta chọn loại mô hình mà chúng ta muốn làm việc. Hiện tại, tôi sẽ đặt nó ở chế độ Davinci. Và nhiệt độ, tức là mức độ sáng tạo của mô hình, được đặt thành 0,7 và mã thông báo tối đa là 256. Trong trường Khóa API mở, chúng tôi cần cung cấp Khóa API mở và trường bên dưới có thể để trống.

Từ hình ảnh, chúng ta thấy rằng chúng ta đã kéo Mẫu Lời nhắc vào phần màu trắng. Ở đây ứng dụng chúng tôi đang phát triển là một bot đơn giản trả lời vui nhộn nên chúng tôi phải viết mẫu Nhắc cho phù hợp.

Mẫu nhắc nhở

Bây giờ đến phần tử cuối cùng, đó là phần tử Chuỗi. Chuỗi LLM là sự kết hợp kết hợp Mô hình ngôn ngữ lớn OpenAI và Mẫu lời nhắc của chúng tôi lại với nhau. Chúng ta có thể thấy rằng LLMChain có thể được tìm thấy trong phần Chuỗi ở phía bên trái của giao diện người dùng. Cuối cùng, đã đến lúc xâu chuỗi mọi thứ lại với nhau.

Giống như các bức ảnh ở trên, hãy kết nối Mẫu lời nhắc với Lời nhắc của LLMChain và kết nối đầu OpenAI với đầu LLM của LLMChain.

Bây giờ là lúc để thử nghiệm ứng dụng của chúng tôi. Để ứng dụng chạy, hãy nhấp vào Biểu tượng Thunderbolt hiện ở phần dưới cùng bên phải của giao diện người dùng. Nếu khóa OpenAI hợp lệ, thì trên mỗi Thành phần, ở trên cùng, gần tên thành phần, một chấm màu xanh lá cây sẽ được hiển thị (ban đầu là màu vàng), khi đó bạn sẽ thấy Biểu tượng Trò chuyện màu xanh lam bên dưới Biểu tượng Thunderbolt. Nhấp vào Biểu tượng trò chuyện màu xanh.

Sau khi click vào sẽ có một cửa sổ chat mở ra để bạn trò chuyện. Bây giờ bạn có thể trò chuyện với Mô hình ngôn ngữ lớn mà chúng tôi đã cung cấp trong giao diện người dùng. Hãy thử hỏi bot “Bạn có khỏe không?”, để làm được điều này, bot cần đưa ra câu trả lời hài hước.

Chúng ta có thể thấy rằng bot thực sự đã phản hồi một cách hài hước bằng cách làm theo Mẫu lời nhắc của chúng tôi. Chia sẻ với bất kỳ ai bằng cách xuất nó sang JSON. Đây chỉ là một trong những trường hợp sử dụng mẫu về những gì chúng tôi có thể đạt được với LangFlow và LangChain.

Phần kết luận

Giao diện người dùng LangFlow được xây dựng dựa trên Khung LangChain của Python, một Gói được sử dụng rộng rãi để tạo các ứng dụng có Mô hình ngôn ngữ lớn. Chúng ta đã thấy các Thành phần trong giao diện người dùng và đã thấy cách người ta có thể xây dựng các mô hình bằng giao diện người dùng và chia sẻ chúng với người khác bằng cách xuất chúng sang tệp JSON. Với giao diện người dùng này, khả năng tạo các ứng dụng cao cấp là vô tận.

XEM THÊM: Giới thiệu về tài khoản Chat GPT 4.

Bài học chính

• LangFlow cung cấp tính năng kéo và thả dễ dàng để xây dựng các ứng dụng với LLM
• Giao diện người dùng LangFlow có sẵn trong cả Python và JavaScript
• Giao diện người dùng này cho phép người dùng chuyển đổi ứng dụng của họ sang tệp JSON, do đó giúp họ dễ dàng chia sẻ
• LangFlow thậm chí còn đi kèm với gói Python, người dùng có thể cài đặt và chạy ứng dụng được tích hợp trong LangFlow bằng cách cung cấp đường dẫn đến tệp JSON
• LangFlow giúp những người không phải là nhà phát triển xây dựng ứng dụng dễ dàng hơn với Mô hình ngôn ngữ lớn

Các câu hỏi thường gặp