Debian Science Distributed Computing packages

DMTCP (« Distributed MultiThreaded Checkpointing ») est un outil permettant de contrôler de façon transparente l'état d'un groupe arbitraire de programmes, y compris des calculs ayant plusieurs processus légers (« multithreads ») et distribués. Il opère directement sur l'exécutable binaire de l'utilisateur, sans avoir recours à des modules du noyau Linux ou d'autres noyaux.

Entre autres, les applications prises en charge par DMTCP sont Open MPI, MATLAB, Python, Perl et de nombreux langages de programmation ou de script en interpréteur de commande. DMTCP prend en charge les sessions d’affichage GNU, dont Vim/Cscope et Emacs. En utilisant TightVNC, un point de contrôle peut être créé et les applications X Window redémarrées, à condition qu’elles n’utilisent pas d’extensions (p. ex. : pas d’OpenGL ni de vidéo).

Ce paquet fournit les binaires DMTCP.

The Modules package provides for the dynamic modification of a user's environment via modulefiles. Each modulefile contains the information needed to configure the shell for an application. Once the Modules package is initialized, the environment can be modified dynamically on a per-module basis using the module command which interprets modulefiles. Typically modulefiles instruct the module command to alter or set shell environment variables such as PATH, MANPATH, etc. modulefiles may be shared by many users on a system and users may have their own collection to supplement or replace the shared modulefiles. The modules environment is common on SGI/Crays and many workstation farms.

The Globus Toolkit is an open source software toolkit used for building Grid systems and applications. It is being developed by the Globus Alliance and many others all over the world. A growing number of projects and companies are using the Globus Toolkit to unlock the potential of grids for their cause.

The globus-core package is no longer needed with Globus Toolkit 6. This transitional package provides a dummy pkg-config file to fulfill dependencies during the transition. In can be removed when no longer needed.

Grid Engine est un logiciel facilitant la gestion d’une grille informatique (gestion de ressources distribuées – DRM). Bien plus qu’être simplement des outils de répartition de charges ou des mécanismes de planifications, les logiciels DRM fournissent habituellement les fonctions essentielles suivantes pour de larges ensembles de ressources distribuées :

 – allocation basée sur une politique de ressources distribuées (temps CPU,
  licences logicielles, etc.) ;
 – mise en file d’attente et planification de lots ;
 – prise en charge de divers matériels pour serveur, systèmes
  d’exploitation et architectures ;
 – répartition de charges et exécution de travaux distants ;
 – statistiques comptables de travaux détaillées ;
 – ressources par utilisateur paramétrables finement ;
 – interruption, redémarrage ou migration de travaux ;
 – outils de rapport d’état de travaux, hôtes et groupes ;
 – tableaux de travaux ;
 – intégration et contrôle de travaux parallèles.

Ce paquet fournit les utilitaires utilisateur de Grid Engine.

Grid Engine est un logiciel facilitant la gestion d’une grille informatique (gestion de ressources distribuées – DRM). Bien plus qu’être simplement des outils de répartition de charges ou des mécanismes de planifications, les logiciels DRM fournissent habituellement les fonctions essentielles suivantes pour de larges ensembles de ressources distribuées :

 – allocation basée sur une politique de ressources distribuées (temps CPU,
  licences logicielles, etc.) ;
 – mise en file d’attente et planification de lots ;
 – prise en charge de divers matériels pour serveur, systèmes
  d’exploitation et architectures ;
 – répartition de charges et exécution de travaux distants ;
 – statistiques comptables de travaux détaillées ;
 – ressources par utilisateur paramétrables finement ;
 – interruption, redémarrage ou migration de travaux ;
 – outils de rapport d’état de travaux, hôtes et groupes ;
 – tableaux de travaux ;
 – intégration et contrôle de travaux parallèles.

Ce paquet fournit le serveur d'exécution de Grid engine.

Grid Engine est un logiciel facilitant la gestion d’une grille informatique (gestion de ressources distribuées – DRM). Bien plus qu’être simplement des outils de répartition de charges ou des mécanismes de planifications, les logiciels DRM fournissent habituellement les fonctions essentielles suivantes pour de larges ensembles de ressources distribuées :

 – allocation basée sur une politique de ressources distribuées (temps CPU,
  licences logicielles, etc.) ;
 – mise en file d’attente et planification de lots ;
 – prise en charge de divers matériels pour serveur, systèmes
  d’exploitation et architectures ;
 – répartition de charges et exécution de travaux distants ;
 – statistiques comptables de travaux détaillées ;
 – ressources par utilisateur paramétrables finement ;
 – interruption, redémarrage ou migration de travaux ;
 – outils de rapport d’état de travaux, hôtes et groupes ;
 – tableaux de travaux ;
 – intégration et contrôle de travaux parallèles.

Ce paquet fournit le serveur maître de Grid Engine.

Grid Engine est un logiciel facilitant la gestion d’une grille informatique (gestion de ressources distribuées – DRM). Bien plus qu’être simplement des outils de répartition de charges ou des mécanismes de planifications, les logiciels DRM fournissent habituellement les fonctions essentielles suivantes pour de larges ensembles de ressources distribuées :

 – allocation basée sur une politique de ressources distribuées (temps CPU,
  licences logicielles, etc.) ;
 – mise en file d’attente et planification de lots ;
 – prise en charge de divers matériels pour serveur, systèmes
  d’exploitation et architectures ;
 – répartition de charges et exécution de travaux distants ;
 – statistiques comptables de travaux détaillées ;
 – ressources par utilisateur paramétrables finement ;
 – interruption, redémarrage ou migration de travaux ;
 – outils de rapport d’état de travaux, hôtes et groupes ;
 – tableaux de travaux ;
 – intégration et contrôle de travaux parallèles.

Ce paquet fournit le frontal graphique d’administration de Grid Engine.

This package aids upgrades of existing htcondor installations to the package name "condor". The package is empty and it can safely be removed.

IPython can be used as a replacement for the standard Python shell, or it can be used as a complete working environment for scientific computing (like Matlab or Mathematica) when paired with the standard Python scientific and numerical tools. It supports dynamic object introspections, numbered input/output prompts, a macro system, session logging, session restoring, complete system shell access, verbose and colored traceback reports, auto-parentheses, auto-quoting, and is embeddable in other Python programs.

This package contains the actual terminal shell for Python 3.

MPICH is a high-performance and widely portable implementation of the MPI-3.1 standard from the Argonne National Laboratory. It efficiently supports different computation and communication platforms including commodity clusters, SMPs, massively parallel systems, and high-speed networks. This release has all MPI 3.1 functions and features required by the standard with the exception of support for the "external32" portable I/O format and user-defined data representations for I/O.

This package includes the program binaries necessary to run MPICH programs.

The package provides a python interpreter with MPI (Message Passing Interface, message-based parallel programming) support.

NorduGrid is a collaboration aiming at development, maintenance and support of the middleware, known as the Advanced Resource Connector (ARC).

This client package contains all the CLI tools that are needed to operate with x509 proxies, submit and manage jobs and handle data transfers.

Open MPI is a project combining technologies and resources from several other projects (FT-MPI, LA-MPI, LAM/MPI, and PACX-MPI) in order to build the best MPI library available. A completely new MPI-3.1 compliant implementation, Open MPI offers advantages for system and software vendors, application developers and computer science researchers.

Features:

• Full MPI-3.1 standards conformance
• Thread safety and concurrency
• Dynamic process spawning
• High performance on all platforms
• Reliable and fast job management
• Network and process fault tolerance
• Support network heterogeneity
• Single library supports all networks
• Run-time instrumentation
• Many job schedulers supported
• Internationalized error messages
• Component-based design, documented APIs

This package contains the Open MPI utility programs.

The package provides a python interpreter with MPI (Message Passing Interface, message-based parallel programming) support.

SCOOP (Scalable COncurrent Operations in Python) is a distributed task module allowing concurrent parallel programming on various environments, from heterogeneous grids to supercomputers.

This package contains the Python3 modules.

This is a collection of software that help users to share resources in a complex, heterogeneous, and unreliable computing environment. This includes:

• Chirp: A personal filesystem and I/O protocol that allows unprivileged users to share space securely, efficiently, and conveniently. When combined with Parrot, Chirp allows users to create custom wide-area distributed filesystems.
• Parrot: A transparent user-level virtual filesystem that allows any ordinary program to be attached to a remote storage device such as an FTP server or a Chirp server.
• Makeflow: A workflow system for parallel and distributed computing that uses a language very similar to Make.
• Work Queue: A system and API for building master-worker style programs that scale up to thousands of processors.
• All Pairs: A computational abstraction for running very large Cartesian products.
• Wavefront: A computational abstraction for running very large dynamic programming problems.
• The Fault Tolerant Shell: A high-level programming language that allows users to combine the ease of shell scripting, the power of distributed programming, and the precision of compiled languages. Basically, parallel programming and exception handling for scripts.

Le mesureur de performance HPC Challenge (High Performance Computing – Informatique de haute performance) exécute une suite de sept tests pour les CPU, la mémoire et le réseau pour des grappes HPC. Entre autres, il fournit le mesureur HPL (High-Performance LINPACK), utilisé par le classement Top500 (http://www.top500.org/).

Ce paquet apporte des possibilités de calcul en parallèle à Octave en fournissant une interface pratique pour les primitives MPI. Cela est réalisé en utilisant des types dérivés de données.

Ce paquet de greffon d’Octave fait partie du projet Octave-Forge.

MPI pour Python (mpi4py) fournit des liaisons pour la norme MPI (Message Passing Interface) pour le langage de programmation Python, permettant à n’importe quel programme en Python d’exploiter plusieurs processeurs.

Mpi4py est construit sur la base de la spécification MPI-1/MPI-2 et fournit une interface orientée objet qui suit de près les liaisons C++ vers MPI-2. Il gère les communications point-à-point (envoi, réception) et collectives (diffusions générales ou particulières de données) de n’importe quel objet de Python sélectionnable ainsi que des communications optimisées d’objet de Python exposant l’interface à tampon non-segmenté (tableaux NumPy, objets internes d’octets, chaîne ou tableau).

PSOM is a lightweight library to manage complex multi-stage data processing. A pipeline is a collection of jobs, i.e. Matlab or Octave code with a well identified set of options that are using files for inputs and outputs. To use PSOM, the only requirement is to generate a description of a pipeline in the form of a simple Matlab/Octave structure. PSOM then automatically offers the following services:

• Run jobs in parallel using multiple CPUs or within a distributed computing environment.
• Generate log files and keep track of the pipeline execution. These logs are detailed enough to fully reproduce the analysis.
• Handle job failures: successful completion of jobs is checked and failed jobs can be restarted.
• Handle updates of the pipeline: change options or add jobs and let PSOM figure out what to reprocess.