Czy znasz/używasz dowolnej kolejki zadań rozproszonych dla Pythona? Czy możesz udostępniać linki lub narzędzia?Implementacja kolejki zadań dla Pythona
Odpowiedz
Oprócz wieloprocesorowe istnieje również projekt Celery, jeśli używasz Django.
Prawdopodobnie chcesz przyjrzeć się kolejce multiprocessingu. Zawarty w Pythonie 2.6, pobierz go na PyPI dla wcześniejszych wersji Pythona.
Dokumentacja standardowa biblioteka: http://docs.python.org/library/multiprocessing.html Na PyPI: http://pypi.python.org/pypi/multiprocessing
Jest też "bucker" Sylvain Hellegouarch które można znaleźć tutaj:
Opisuje się tak:
- bucker to system kolejek że podpory wiele pamięci dla kolejki (memcached, Amazon SQS na razie) i jest sterowany przez komunikaty XML wysyłane przez połączenia TCP między klientem a serwerem kolejki r.
Spójrz na beanstalkd
redqueue? Zaimplementowano go w strukturze Pythona + Tornado, posługuje się protokołem memcached i opcjonalnie jest trwały w plikach dziennika. Obecnie jest również w stanie zachowywać się podobnie jak beanstalkd, droga rezerwowa/kasowania w protokole memcache.
Obecnie używali selera. Spojrzę na redqueue. Dziękuję za odpowiedź –
Jest to rok późno lub cokolwiek, ale to jest coś co hacked razem do kolejki procesów realizujących je wyłącznie numer X naraz. http://github.com/goosemo/job_queue
Pyres jest klonem resque wbudowanym w python. Resque jest używany przez Github jako kolejkę komunikatów. Oba używają Redis jako zaplecza kolejki i udostępniają internetową aplikację monitorującą.
Ponadto istnieje Unix „at”
o więcej informacji: człowiek w
Jeśli uważasz, że seler jest zbyt ciężki do swoich potrzeb, a następnie może chcesz spojrzeć na prosty rozprowadzane kolejka zadanie:
- 1. Implementacja kolejki atomowej w QT5
- 2. Implementacja kolejki blokującej wątki w .NET
- 3. Czy jest implementacja Hadley's ddply dla Pythona?
- 4. Kolejki zadań testowania jednostkowego w AppEngine
- 5. asyncio i coroutines kontra kolejki zadań
- 6. Czy ta aplikacja internetowa wymaga kolejki zadań?
- 7. Priorytet zadań dla selera
- 8. Implementacja Pythona algorytmu wyrównania BLAST?
- 9. Używanie MongoDB jako kolejki wiadomości dla Celery
- 10. Efektywność korzystania z listy Pythona jako kolejki
- 11. Kod logiczny w PHP/Laravel z systemem kolejki zadań
- 12. Awaria kolejki zadań usuwania śmieci, jeśli dylib jest załadowany
- 13. Najlepszy sposób użycia tabeli DB jako komunikatu/kolejki zadań
- 14. Implementacja kolejki C za pomocą void * - dobra lub zła praktyka?
- 15. Dowolna implementacja kolejki wolnej od blokady pojedynczego klienta w C?
- 16. Jak prawidłowo ustawiać kolejki zadań do uruchomienia w języku C#
- 17. Czy Google Cloud Endpoints można trafić za pomocą kolejki zadań?
- 18. Google App Engine - kolejki zadań a zadania Cron
- 19. Kolejki zadań alternatywnych do worklingu do użytku z szynami 3?
- 20. Jak przekierować łańcuch zadań do określonej kolejki w selerach?
- 21. Implementacja specjalnego typu kolejki do przetwarzania wieloprocesowego w Pythonie
- 22. Poszukuję trwałej, rozproszonej kolejki pracowników dla erlang
- 23. Czy ta (bez blokady) implementacja kolejki wątku jest bezpieczna?
- 24. Implementacja czystego Pythona w środowisku Greenlet API
- 25. Typ klasy Haskella dla kolejki
- 26. Implementacja hashtable dla C
- 27. Implementacja GZIPInputStream dla J2ME
- 28. Implementacja C# dla JVM
- 29. Implementacja "show" dla funkcji
- 30. Jaka jest najlepsza opcja dla kolejki zadań (Python 3) w systemie Windows teraz, gdy Seler 4 zepsuł obsługę systemu Windows?
Dzięki za link? Czy jest on ściśle używany z django? możemy go użyć do standardowych projektów Pythona? –
Nie rozumiem, dlaczego nie, z odpowiednią adaptacją (nie wiem, ile pracy będzie - zależy od dokładnego wymagania). –
Seler ma ukrytą bibliotekę o nazwie Marchew, której można używać bez Django. –