| 1 | == Analyse d'un job avec accès à un SE distant == |
| 2 | |
| 3 | Ce tutoriel décrit comment exécuter un job sur le CE du LPSC en utilisant des données sur un SE distant. |
| 4 | |
| 5 | Pour lancer un job, vous avez besoin de deux fichiers |
| 6 | |
| 7 | * Le fichier JDL (Job Description Langage) |
| 8 | Le fichier job.jdl est le fichier qui décrit votre job. Dans ce fichier vous trouverez une ligne de commentaire (#...) qui décrit chaque nouvelle instruction du fichier JDL. |
| 9 | * L'executable |
| 10 | Le fichier job.sh est le script qui va être exécuter sur la machine distante (le WN) |
| 11 | |
| 12 | * __Utiliser un dataset__ [[BR]]Le dataset utilisé est ''valid1.007000.singlepart_e_Et10.bstream.BS.e322_s412_b25''.[[BR]]Notez les guid des deux premiers fichiers qu'il contient |
| 13 | {{{ |
| 14 | [lambert@lpsc-ui JDL_InputSandBox_remote_gsiftp]$ dq2-list-files valid1.007000.singlepart_e_Et10.bstream.BS.e322_s412_b25 |
| 15 | BS.021085._00026.data.1 cb4e58bd-6229-4c63-8292-9f281b636091 md5:cb702a0d315de100ef48001968f8b424 576049696 |
| 16 | BS.021085._00013.data.1 c3e3acf3-0728-4e5a-b9f3-9bc71fc938eb md5:d34db6104ff44d7475d5f1957f57e89e 576129736 |
| 17 | ... |
| 18 | }}} |
| 19 | ''--> Exercice: Trouvez ce dataset avec AMI et cherchez à quelle type de données il correspond'' |
| 20 | |
| 21 | * __Trouver l'alias LFN complet des fichiers__ |
| 22 | {{{ |
| 23 | [lambert@lpsc-ui edg5]$ lcg-la guid:cb4e58bd-6229-4c63-8292-9f281b636091 |
| 24 | lfn:/grid/atlas/dq2/valid1/BS/valid1.007000.singlepart_e_Et10.bstream.BS.e322_s412_b25_tid021085/BS.021085._00026.data.1 |
| 25 | |
| 26 | [lambert@lpsc-ui edg5]$ lcg-la guid:c3e3acf3-0728-4e5a-b9f3-9bc71fc938eb |
| 27 | lfn:/grid/atlas/dq2/valid1/BS/valid1.007000.singlepart_e_Et10.bstream.BS.e322_s412_b25_tid021085/BS.021085._00013.data.1 |
| 28 | |
| 29 | }}} |
| 30 | ''-->Exercice: Ouvrez et analysez le fichiers job.jdl. Essayer de le modifier pour utiliser deux autres fichiers de votre choix.'' |
| 31 | |
| 32 | * __Soumission du job et résultat__ [[BR]] Contrairement à glite-wms, la localisation des fichiers sur une machine distante ne peut être indiquée directement dans le JDL. Il faut donc les faire copier depuis le script du job. |
| 33 | {{{ |
| 34 | [lambert@lpsc-ui edg1]$ edg-job-submit job.jdl |
| 35 | |
| 36 | Selected Virtual Organisation name (from JDL): atlas |
| 37 | Connecting to host node04.datagrid.cea.fr, port 7772 |
| 38 | Logging to host node04.datagrid.cea.fr, port 9002 |
| 39 | |
| 40 | |
| 41 | ********************************************************************************************* |
| 42 | JOB SUBMIT OUTCOME |
| 43 | The job has been successfully submitted to the Network Server. |
| 44 | Use edg-job-status command to check job current status. Your job identifier (edg_jobId) is: |
| 45 | |
| 46 | - https://node04.datagrid.cea.fr:9000/X3df68heDW4vrxR76RmXfA |
| 47 | |
| 48 | |
| 49 | ********************************************************************************************* |
| 50 | |
| 51 | [lambert@lpsc-ui edg1]$ edg-job-status https://node04.datagrid.cea.fr:9000/X3df68heDW4vrxR76RmXfA |
| 52 | |
| 53 | |
| 54 | ************************************************************* |
| 55 | BOOKKEEPING INFORMATION: |
| 56 | |
| 57 | Status info for the Job : https://node04.datagrid.cea.fr:9000/X3df68heDW4vrxR76RmXfA |
| 58 | Current Status: Done (Success) |
| 59 | Exit code: 0 |
| 60 | Status Reason: Job terminated successfully |
| 61 | Destination: lcg2ce.ific.uv.es:2119/jobmanager-pbs-short |
| 62 | reached on: Thu Jun 5 12:08:43 2008 |
| 63 | ************************************************************* |
| 64 | |
| 65 | [lambert@lpsc-ui edg1]$ edg-job-get-output https://node04.datagrid.cea.fr:9000/X3df68heDW4vrxR76RmXfA |
| 66 | |
| 67 | Retrieving files from host: node04.datagrid.cea.fr ( for https://node04.datagrid.cea.fr:9000/X3df68heDW4vrxR76RmXfA ) |
| 68 | |
| 69 | ********************************************************************************* |
| 70 | JOB GET OUTPUT OUTCOME |
| 71 | |
| 72 | Output sandbox files for the job: |
| 73 | - https://node04.datagrid.cea.fr:9000/X3df68heDW4vrxR76RmXfA |
| 74 | have been successfully retrieved and stored in the directory: |
| 75 | /atlas/lambert/JobOutput/lambert_X3df68heDW4vrxR76RmXfA |
| 76 | |
| 77 | ********************************************************************************* |
| 78 | |
| 79 | [lambert@lpsc-ui gliteWMS5]$ cat /tmp/lambert_X3df68heDW4vrxR76RmXfA/std.out |
| 80 | Localisation du dataset |
| 81 | valid1/BS/valid1.007000.singlepart_e_Et10.bstream.BS.e322_s412_b25_tid021085 |
| 82 | 1er fichier: |
| 83 | BS.021085._00013.data.1 |
| 84 | 2nd fichier: |
| 85 | BS.021085._00026.data.1 |
| 86 | Liste des fichiers sur le WN: |
| 87 | BS.021085._00013.data.1 |
| 88 | BS.021085._00026.data.1 |
| 89 | https_3a_2f_2flb105.cern.ch_3a9000_2fDLadyaUWPDqFDqCeHuLlsA.output |
| 90 | job.sh |
| 91 | std.err |
| 92 | std.out |
| 93 | tmp.IgNVS14151 |
| 94 | }}} |
| 95 | ''--> Exercice : Vérifiez que les fichiers de données ont bien été rapatriés sur le WN''[[BR]] |
| 96 | ''--> Exercice : Quels autres fichiers trouvez vous sur le WN ? Cela correspond il aux instructions votre job.jdl et votre job.sh ?'' |
| 97 | |
| 98 | [wiki:tutoedg up] ; [wiki:edg4 previous] ; [wiki:edg6 next] |
| 99 | |