Différences

Ci-dessous, les différences entre deux révisions de la page.

Lien vers cette vue comparative

Les deux révisions précédentesRévision précédente
Prochaine révision
Révision précédente
documentation:tutorials:scratch [2020/01/29 16:15] – [scratch Lake] ltaulelldocumentation:tutorials:scratch [2023/12/12 10:59] (Version actuelle) – supprimée ltaulell
Ligne 1: Ligne 1:
-====== Description du /scratch ====== 
- 
-Le ''/scratch'' est un espace de travail **//temporaire//** dans lequel vous pouvez copier vos données et écrire les résulats de vos calculs.  
-Travailler dans le scratch présente les avantages suivants : 
-   * offrir un plus grand volume de travail que celui disponible dans les ''/home'' (plusieurs espaces ''/scratch'' sont disponibles), 
-   * augmenter la vitesse de traitement des lectures/écritures, 
-   * augmenter le nombre d'entrées/sorties simultanées sur le volume. 
-\\ 
-Deux types de ''/scratch'' sont disponibles : 
- 
-<note warning> 
-**Informations à compléter, arrivée d'un nouveau cluster (Lake)** 
-</note> 
-===== Le /scratch global à un cluster  ===== 
- 
-Comme nous avons plusieurs grands groupes de machines, d'architectures différentes (Lake, les plus récentes, E5 et X5, les plus anciennes), il y a plusieurs scratch globaux. 
- 
-==== cluster Lake ==== 
- 
- 
-Le ''/scratch/Lake/'', commun aux files d'attente ** CLG* et SLG* **, sera accessible par tous [[documentation:clusters:hardware&#cluster_lake|les noeuds du cluster Lake]]. 
- 
-Il contiendra le fichier vide de vérification : ''/scratch/Lake/lake-gfs-scratch''. 
- 
-Il sera accessible par **[[documentation:clusters:services|les frontales du cluster Lake]]** 
- 
-<note tip> 
-**les scratchs Chimie et Bio sont déjà disponibles** 
-</note> 
- 
-<code> 
-/scratch/ 
-     ├── Lake/         (à venir, common to Lake cluster) 
-     ├── disk/         (local to some servers) 
-     ├── Chimie/       (reserved to chimie usage) 
-     ├── Bio/          (reserved to biologie usage) 
-     ... 
-     └── Project_name/ (reserved to some servers,  
-                        with dedicated hardware) 
- 
-</code> 
- 
- 
-==== scratch E5 ==== 
- 
- 
-Ce ''/scratch/E5/'', commun aux files d'attente ** E5-* **, est accessible par tous [[documentation:clusters:hardware&#cluster_equip_meso_ou_e5|les noeuds du cluster Équip@méso]]. 
- 
-Il contient le fichier vide de vérification : ''/scratch/E5/e5-2670-gfs-scratch''. 
- 
-Il est accessible par **[[documentation:clusters:services|les frontales e5-2670comp1 à 2]]** et   **[[documentation:clusters:services|e5-2667v4comp1 à 2]]**,\\ ainsi que par le serveur de visualisation **[[documentation:tutorials:visualisation|r740visu]]**. 
- 
-<code> 
-/scratch/ 
-     ├── E5/           (E5 scratch, common to E5 cluster) 
-     ├── nvme/         (local to some servers) 
-     ├── ssd/          (local to some servers) 
-     ... 
-     └── Project_name/ (local to some servers,  
-                        with dedicated hardware) 
- 
-</code> 
- 
- 
-==== scratch X5 ==== 
- 
-Ce ''/scratch/X5/'', commun aux files d'attente **x55/x56***, est accessible par tous [[documentation:clusters:hardware&#cluster_x55_x56|les noeuds du cluster x55/x56]]. 
- 
-Il contient le fichier vide de vérification : ''/scratch/X5/x5570-gfs-scratch''. 
- 
-Il est accessible par **[[documentation:clusters:services|les frontales x5570comp1 et 2]]**. 
- 
-<code> 
-/scratch/ 
-     └── X5/           (X5 scratch, common to X5 cluster) 
-</code> 
- 
-\\ 
-Le diagramme (<wrap warning>pas à jour</wrap>) ci-dessous représente l'intégration des espaces de ''/scratch'' dans l'infrastructure du PSMN. 
-\\ 
- 
-{{ :documentation:tutorials:psmn_network_synoptic.png?direct&660 |}} 
- 
-\\ 
- 
- 
-==== Le scratch local à certains noeuds : ==== 
- 
-Ces ''/scratch'' locaux sont disponibles seulement sur certains des noeuds des clusters mutualisés. [[documentation:clusters:hardware&#clusters_mutualises|Voir description plus complète]]. 
- 
- 
-====== Utiliser le scratch ====== 
-===== Utilisation du scratch : Copie manuelle ===== 
- 
-Pour les ''/scratch'' communs (Lake, E5, X5), avant la soumission d'un job, copier ses données d'entrée dans un répertoire ''/scratch/<cluster>/login/whatever/''. 
-Le plus simple étant de reproduire la même hiérarchie de répertoires et fichiers en changeant ''/home'' par ''/scratch/<cluster>'' (copie avec ''cp -r''). 
- 
-Ne pas oublier de modifier ses fichiers de soumission en conséquence. 
- 
-À la fin du run, récuperer ses résultats à la main, dans le ''/scratch'', depuis une des frontales correspondantes. 
- 
-<note warning>Vous ne pouvez plus écrire dans ''/scratch/'', il faut ajouter le cluster.</note> 
- 
-===== Utilisation du /scratch : Copie automatique ===== 
- 
-Pour les ''/scratch'' locaux, vous ne savez pas quel noeud vous sera attribué (c'est valable aussi pour le scratch global, mais moins génant). Vous ne pouvez donc pas copier vos données vers un noeud en particulier à l'avance. Il faut intégrer la copie ''/scratch''<->''/home'' dans le script soumis. 
- 
-**Vous trouverez [[documentation:examples:submit_scripts&#job_parallele_variantes|des exemples sur cette page]].** 
- 
- 
-Nous n'avons pas d'exemple de script qui fasse le ménage de manière automatique. De même, si vous ne vous sentez pas à l'aise avec ces scripts, n'hésitez pas à venir en discuter autour d'un café, le mardi après-midi. 
- 
- 
-===== Transferts technologiques ===== 
- 
-<WRAP info>Les scratch globaux (glusterfs) ont été mis en service grâce aux travaux préparatoires, recettes et intégrations réalisés sur la plate-forme expérimentale du CBP.</WRAP> 
  
documentation/tutorials/scratch.1580314536.txt.gz · Dernière modification : 2020/08/25 15:58 (modification externe)