Summary
Workflow
workflow management systems useful for scientific research
This task lists some packages providing workflow management
systems useful for scientific research.
Description
For a better overview of the project's availability as a Debian package, each head row has a color code according to this scheme:
If you discover a project which looks like a good candidate for Debian Science
to you, or if you have prepared an unofficial Debian package, please do not hesitate to
send a description of that project to the Debian Science mailing list
Links to other tasks
|
Debian Science Workflow packages
Official Debian packages with high relevance
capsule-nextflow
outil d’empaquetage et de déploiement pour des applications en Java
|
Versions of package capsule-nextflow |
Release | Version | Architectures |
sid | 1.1.1+dfsg-1 | all |
trixie | 1.1.1+dfsg-1 | all |
bookworm | 1.1.1+dfsg-1 | all |
|
License: DFSG free
|
Une capsule est un exécutable JAR unique qui contient tout ce dont une application
a besoin pour être exécutée, soit sous la forme de fichiers embarqués ou comme
des métadonnées déclaratives. Il peut contenir des artefacts JAR, des
dépendances et des ressources, des bibliothèques natives, la version nécessaire du « Java Runtime Environment », les drapeaux de la machine virtuelle Java nécessaires pour bien exécuter l’application, des agents Java ou natifs et d’autres choses. En résumé, une capsule est un JAR qui sait contenant tout ce qui doit être connu pour exécuter l’application de la façon dont elle doit fonctionner.
Une façon d’envisager une capsule est de penser à un gros JAR dopé (qui permet
aussi des bibliothèques natives et qui n’interfère jamais avec des dépendances)
et a un script déclaratif de démarrage enroulés ensemble. Une autre façon est de
l’envisager comme un équivalent au moment du déploiement d’un outil de
construction. Comme un outil de construction gère la construction, capsule gère
le démarrage d’une application.
Ce paquet fournit le fourchage du projet capsule originel. Il est approprié
comme dépendance de nextflow.
|
|
coop-computing-tools
outils de calcul coopératif
|
Versions of package coop-computing-tools |
Release | Version | Architectures |
bullseye | 7.1.2-5 | amd64,arm64,armel,armhf,i386,mips64el,mipsel,ppc64el,s390x |
trixie | 9.9-4.1 | amd64,arm64,armel,armhf,i386,mips64el,ppc64el,riscv64,s390x |
buster | 7.0.9-2 | amd64,arm64,armhf,i386 |
bookworm | 9.9-2 | amd64,arm64,armel,armhf,i386,mips64el,mipsel,ppc64el,s390x |
sid | 9.9-4.1 | amd64,arm64,armel,armhf,i386,mips64el,ppc64el,riscv64,s390x |
stretch | 4.0-1.1 | amd64,arm64,armel,armhf,i386,mips,mips64el,mipsel,ppc64el,s390x |
Debtags of package coop-computing-tools: |
uitoolkit | ncurses |
|
License: DFSG free
|
Il s'agit d'une collection de logiciels aidant les utilisateurs à partager
des ressources dans un environnement de calcul complexe, hétérogène et non
fiable. Elle inclut :
- Chirp : Un protocole d'entrée/sortie et un système de fichiers personnel
qui prmet à des utilisateurs non privilégiés de partager un espace de
manière sécurisée, efficace et commode. Associé à Parrot, Chirp permet aux
utilisateurs de créer des systèmes de fichiers distribués dans des endroits
personnalisés
- Parrot : Un système de fichiers virtuel transparent au niveau utilisateur
permettant de rlier à n'importe quel programme un périphérique de stockage
distant tel qu'un serveur FTP ou Chirp.
- Makeflow : un système de flux pour le calcul parallèle et distribué qui
utilise un langage très proche de Make.
- Work Queue : Un système et une API pour construire des programmes à la façon
master-worker, capables d'aller jusqu'à des milliers de processeurs.
- All Pairs : Une abstraction de calcul pour exécuter de très gros produits
cartésiens.
- Wavefront : Une abstraction de calcul pour exécuter de très gros problèmes
de programmation dynamique.
- The Fault Tolerant Shell : Un langage de programmation de haut niveau qui
permet aux utilisateurs de combiner la facilité des scripts shell, la
puissance de la programmation distribuée et la précision des langages
compilés. C'est de la programmation parallèle de base et de la gestion
d'exceptions pour des scripts.
|
|
cwltool
implémentation de la référence du langage Common Workflow
|
Versions of package cwltool |
Release | Version | Architectures |
bookworm | 3.1.20230209161050-1 | all |
stretch | 1.0.20170114120503-1 | all |
buster | 1.0.20181217162649+dfsg-10 | all |
bullseye | 3.0.20210124104916-3+deb11u1 | all |
trixie | 3.1.20241024121129-1 | all |
sid | 3.1.20241024121129-1 | all |
|
License: DFSG free
|
C'est l'implémentation de référence des standards de
Common Workflow Language.
Les standards ouverts CWL servent à décrire des analyses de flux de travail
et des outils afin de les rendre portables et déployabls sur une grande
diversité d'environnements logiciels et matériels, des stations de travail aux
clustrs en passant par le cloud et le calcul haute performance (HPC). CWL
a été conçu pour satisfaire les besoins des scientifiques manipulant beaucoup
de données comme la bioinformatique, l'imagerie médicaale, l'astronomie, la
physique et la chimie.
L'implémentation de la référence CWL (cwltool) vise à être entièrement
personnalisée et à offrir une validation exhaustive de fichiers CWL, mais aussi
d'autres outils de travail avec des descriptions CWL.
|
|
gearman
file d’attente de travaux distribués
|
Versions of package gearman |
Release | Version | Architectures |
jessie | 1.0.6-5 | all |
bookworm | 1.1.20+ds-1 | all |
stretch | 1.0.6-9 | all |
buster | 1.1.18+ds-3 | all |
trixie | 1.1.20+ds-1.2 | all |
sid | 1.1.20+ds-1.2 | all |
bullseye | 1.1.19.1+ds-2 | all |
buster-backports | 1.1.19.1+ds-2~bpo10+1 | all |
upstream | 1.1.21 |
Debtags of package gearman: |
role | metapackage |
|
License: DFSG free
|
Gearman est un système pour confier des travaux à d’autres machines, en
répartissant les appels de fonction aux machines les plus adaptées, pour
travailler en parallèle, pour répartir les charges de beaucoup d’appels de
fonction ou appeler des fonctions entre langages.
Ce paquet est un paquet vide qui dépend à la fois du client et du serveur.
|
|
gearman-tools
outils pour la file d’attente de travaux distribués de Gearman
|
Versions of package gearman-tools |
Release | Version | Architectures |
bookworm | 1.1.20+ds-1 | amd64,arm64,armel,armhf,i386,mips64el,mipsel,ppc64el,s390x |
trixie | 1.1.20+ds-1.2 | amd64,arm64,armel,armhf,i386,mips64el,ppc64el,riscv64,s390x |
sid | 1.1.20+ds-1.2 | amd64,arm64,armel,armhf,i386,mips64el,ppc64el,riscv64,s390x |
buster-backports | 1.1.19.1+ds-2~bpo10+1 | amd64,arm64,armel,armhf,i386,mips,mips64el,mipsel,ppc64el,s390x |
buster | 1.1.18+ds-3 | amd64,arm64,armhf,i386 |
stretch | 1.0.6-9 | amd64,arm64,armel,armhf,i386,mips,mips64el,mipsel,ppc64el,s390x |
jessie | 1.0.6-5 | amd64,armel,armhf,i386 |
bullseye | 1.1.19.1+ds-2 | amd64,arm64,armel,armhf,i386,mips64el,mipsel,ppc64el,s390x |
upstream | 1.1.21 |
|
License: DFSG free
|
Gearman est un système pour confier des travaux à d’autres machines, en
répartissant les appels de fonction aux machines les plus adaptées, pour
travailler en parallèle, pour répartir les charges de beaucoup d’appels de
fonction ou appeler des fonctions entre langages.
Ce paquet fournit quelques outils en ligne de commande pour manipuler les
travaux de Gearman.
|
|
make
utilitaire pour mener la compilation
|
Versions of package make |
Release | Version | Architectures |
jessie | 4.0-8.1 | amd64,armel,armhf,i386 |
stretch | 4.1-9.1 | amd64,arm64,armel,armhf,i386,mips,mips64el,mipsel,ppc64el,s390x |
buster | 4.2.1-1.2 | amd64,arm64,armhf,i386 |
bullseye | 4.3-4.1 | amd64,arm64,armel,armhf,i386,mips64el,mipsel,ppc64el,s390x |
bookworm | 4.3-4.1 | amd64,arm64,armel,armhf,i386,mips64el,mipsel,ppc64el,s390x |
trixie | 4.3-4.1 | amd64,arm64,armel,armhf,i386,mips64el,ppc64el,riscv64,s390x |
sid | 4.3-4.1 | amd64,arm64,armel,armhf,i386,mips64el,ppc64el,riscv64,s390x |
upstream | 4.4.1 |
Debtags of package make: |
devel | buildtools |
interface | commandline |
role | program |
scope | utility |
suite | gnu |
works-with | software:source |
|
License: DFSG free
|
L'utilitaire GNU Make contrôle la création d'exécutables et autres fichiers
d'un programme à partir des sources. Il détermine automatiquement quelles
parties d'un long programme doivent être (re)créées et génère les commandes
pour les (re)créer. Make peut être utilisé pour organiser toute tâche pour
laquelle des cibles (fichiers) doivent être automatiquement mises à jour à
partir d'un ensemble de fichiers sources quand la source est plus récente -
il n'est pas limité à la compilation de programmes informatiques. En fait,
Make est un résolveur de dépendances généraliste.
The package is enhanced by the following packages:
make-doc
|
|
pegasus-wms
Scientific workflow management system for HTCondor
|
Versions of package pegasus-wms |
Release | Version | Architectures |
stretch | 4.4.0+dfsg-6 | amd64,arm64,armel,armhf,i386,mips,mips64el,mipsel,ppc64el,s390x |
buster | 4.4.0+dfsg-8 | amd64,arm64,armhf,i386 |
jessie | 4.4.0+dfsg-4 | amd64,armel,armhf,i386 |
|
License: DFSG free
|
The Pegasus project encompasses a set of technologies the help
workflow-based applications execute in a number of different
environments including desktops, campus clusters, grids, and now
clouds. Scientific workflows allow users to easily express
multi-step computations, for example retrieve data from a
database, reformat the data, and run an analysis. Once an
application is formalized as a workflow the Pegasus Workflow
Management Service can map it onto available compute resources
and execute the steps in appropriate order.
|
|
python3-nipype
Neuroimaging data analysis pipelines in Python3
|
Versions of package python3-nipype |
Release | Version | Architectures |
sid | 1.8.6-3 | all |
bullseye | 1.6.0-2 | all |
bookworm | 1.8.5-3 | all |
|
License: DFSG free
|
Nipype interfaces Python to other neuroimaging packages and creates
an API for specifying a full analysis pipeline in Python. Currently,
it has interfaces for SPM, FSL, AFNI, Freesurfer, but could be
extended for other packages (such as lipsia).
Please cite:
SS Ghosh, C Burns, D Clark, K Gorgolewski, YO Halchenko, C Madison, R Tungaraza and KJ Millman:
Nipype: Opensource platform for unified and replicable interaction with existing neuroimaging tools
(eprint)
16th Annual Meeting of the Organization for Human Brain Mapping
:106
(2010)
|
|
python3-wdlparse
Workflow Description Language (WDL) parser for Python
|
Versions of package python3-wdlparse |
Release | Version | Architectures |
bookworm | 0.1.0-3 | all |
bullseye | 0.1.0-2 | all |
sid | 0.1.0-3 | all |
trixie | 0.1.0-3 | all |
|
License: DFSG free
|
A Python package that provides the generated Hermes and Antlr4 WDL parsers for
Python.
|
|
snakemake
pythonic workflow management system
|
Versions of package snakemake |
Release | Version | Architectures |
buster | 5.4.0-1 | all |
sid | 7.32.4-6 | all |
stretch | 3.10.0-1 | all |
bookworm | 7.21.0-1 | all |
bullseye | 5.24.1-2 | all |
trixie | 7.32.4-6 | all |
upstream | 8.25.0 |
|
License: DFSG free
|
Build systems like GNU Make are frequently used to create complicated
workflows, e.g. in bioinformatics. This project aims to reduce the
complexity of creating workflows by providing a clean and modern domain
specific language (DSL) in Python style, together with a fast and
comfortable execution environment.
|
|
toil
cross-platform workflow engine
|
Versions of package toil |
Release | Version | Architectures |
buster | 3.18.0-2 | all |
bookworm | 5.9.2-2+deb12u1 | all |
sid | 6.1.0-4 | all |
bullseye | 5.2.0-5 | all |
upstream | 7.0.0 |
|
License: DFSG free
|
Toil is a scalable, efficient, cross-platform and easy-to-use workflow
engine in pure Python. It works with several well established load
balancers like Slurm or the Sun Grid Engine. Toil is also compatible with
the Common Workflow Language (CWL) via the "toil-cwl-runner" interface, which
this package make available via the Debian alternativess system under the
alias "cwl-runner".
Please cite:
John Vivian, Arjun Arkal Rao, Frank Austin Nothaft, Christopher Ketchum, Joel Armstrong, Adam Novak, Jacob Pfeil, Jake Narkizian Alden D. Deran, Audrey Musselman-Brown, Hannes Schmidt, Peter Amstutz, Brian Craft, Mary Goldman, Kate Rosenbloom, Melissa Cline, Brian O'Connor, Megan Hanna, Chet Birger, W. James Kent David A. Patterson, Anthony D. Joseph, Jingchun Zhu, Sasha Zaranek, Gad Getz, David Haussler and Benedict Paten:
Toil enables reproducible, open source, big biomedical data analyses.
Nature Biotechnology
35(4):314–316
(2017)
|
|
Official Debian packages with lower relevance
cwlformat
code formatter for Common Workflow Language
|
Versions of package cwlformat |
Release | Version | Architectures |
trixie | 2022.02.18-3 | all |
sid | 2022.02.18-3 | all |
bookworm | 2022.02.18-2 | all |
bullseye | 2021.01.05-1 | all |
|
License: DFSG free
|
CWL Format is a specification and a reference implementation
for a very opinionated CWL code formatter.
It outputs Common Workflow Language(CWL) in a standardized YAML
format. It has no settings or options because you have better
things to do with your time. And because CWL Format is always correct.
|
|
libbenchmark-tools
bibliothèque de prise en charge de micro-benchmark –⋅outils et documentation
|
Versions of package libbenchmark-tools |
Release | Version | Architectures |
bookworm | 1.7.1-1 | all |
buster | 1.4.1-3 | all |
stretch-backports | 1.3.0-1~bpo9+1 | all |
sid | 1.8.3-3 | all |
experimental | 1.8.4-1~exp1 | all |
bullseye | 1.5.2-2 | all |
trixie | 1.8.3-3 | all |
upstream | 1.9.0 |
|
License: DFSG free
|
Il s'agit d'une bibliothèque pour mesurer la performance de fonctions,
semblable à unit-tests.
Ce paquet fournit les outils et la documentation.
|
|
|