jqueue: Allow jobs waiting for locks to be canceled
[ganeti-local] / lib / cli.py
1 #
2 #
3
4 # Copyright (C) 2006, 2007 Google Inc.
5 #
6 # This program is free software; you can redistribute it and/or modify
7 # it under the terms of the GNU General Public License as published by
8 # the Free Software Foundation; either version 2 of the License, or
9 # (at your option) any later version.
10 #
11 # This program is distributed in the hope that it will be useful, but
12 # WITHOUT ANY WARRANTY; without even the implied warranty of
13 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14 # General Public License for more details.
15 #
16 # You should have received a copy of the GNU General Public License
17 # along with this program; if not, write to the Free Software
18 # Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA
19 # 02110-1301, USA.
20
21
22 """Module dealing with command line parsing"""
23
24
25 import sys
26 import textwrap
27 import os.path
28 import copy
29 import time
30 import logging
31 from cStringIO import StringIO
32
33 from ganeti import utils
34 from ganeti import errors
35 from ganeti import constants
36 from ganeti import opcodes
37 from ganeti import luxi
38 from ganeti import ssconf
39 from ganeti import rpc
40
41 from optparse import (OptionParser, make_option, TitledHelpFormatter,
42                       Option, OptionValueError)
43
44 __all__ = ["DEBUG_OPT", "NOHDR_OPT", "SEP_OPT", "GenericMain",
45            "SubmitOpCode", "GetClient",
46            "cli_option", "ikv_option", "keyval_option",
47            "GenerateTable", "AskUser",
48            "ARGS_NONE", "ARGS_FIXED", "ARGS_ATLEAST", "ARGS_ANY", "ARGS_ONE",
49            "USEUNITS_OPT", "FIELDS_OPT", "FORCE_OPT", "SUBMIT_OPT",
50            "ListTags", "AddTags", "RemoveTags", "TAG_SRC_OPT",
51            "FormatError", "SplitNodeOption", "SubmitOrSend",
52            "JobSubmittedException", "FormatTimestamp", "ParseTimespec",
53            "ValidateBeParams",
54            "ToStderr", "ToStdout",
55            "UsesRPC",
56            ]
57
58
59 def _ExtractTagsObject(opts, args):
60   """Extract the tag type object.
61
62   Note that this function will modify its args parameter.
63
64   """
65   if not hasattr(opts, "tag_type"):
66     raise errors.ProgrammerError("tag_type not passed to _ExtractTagsObject")
67   kind = opts.tag_type
68   if kind == constants.TAG_CLUSTER:
69     retval = kind, kind
70   elif kind == constants.TAG_NODE or kind == constants.TAG_INSTANCE:
71     if not args:
72       raise errors.OpPrereqError("no arguments passed to the command")
73     name = args.pop(0)
74     retval = kind, name
75   else:
76     raise errors.ProgrammerError("Unhandled tag type '%s'" % kind)
77   return retval
78
79
80 def _ExtendTags(opts, args):
81   """Extend the args if a source file has been given.
82
83   This function will extend the tags with the contents of the file
84   passed in the 'tags_source' attribute of the opts parameter. A file
85   named '-' will be replaced by stdin.
86
87   """
88   fname = opts.tags_source
89   if fname is None:
90     return
91   if fname == "-":
92     new_fh = sys.stdin
93   else:
94     new_fh = open(fname, "r")
95   new_data = []
96   try:
97     # we don't use the nice 'new_data = [line.strip() for line in fh]'
98     # because of python bug 1633941
99     while True:
100       line = new_fh.readline()
101       if not line:
102         break
103       new_data.append(line.strip())
104   finally:
105     new_fh.close()
106   args.extend(new_data)
107
108
109 def ListTags(opts, args):
110   """List the tags on a given object.
111
112   This is a generic implementation that knows how to deal with all
113   three cases of tag objects (cluster, node, instance). The opts
114   argument is expected to contain a tag_type field denoting what
115   object type we work on.
116
117   """
118   kind, name = _ExtractTagsObject(opts, args)
119   op = opcodes.OpGetTags(kind=kind, name=name)
120   result = SubmitOpCode(op)
121   result = list(result)
122   result.sort()
123   for tag in result:
124     print tag
125
126
127 def AddTags(opts, args):
128   """Add tags on a given object.
129
130   This is a generic implementation that knows how to deal with all
131   three cases of tag objects (cluster, node, instance). The opts
132   argument is expected to contain a tag_type field denoting what
133   object type we work on.
134
135   """
136   kind, name = _ExtractTagsObject(opts, args)
137   _ExtendTags(opts, args)
138   if not args:
139     raise errors.OpPrereqError("No tags to be added")
140   op = opcodes.OpAddTags(kind=kind, name=name, tags=args)
141   SubmitOpCode(op)
142
143
144 def RemoveTags(opts, args):
145   """Remove tags from a given object.
146
147   This is a generic implementation that knows how to deal with all
148   three cases of tag objects (cluster, node, instance). The opts
149   argument is expected to contain a tag_type field denoting what
150   object type we work on.
151
152   """
153   kind, name = _ExtractTagsObject(opts, args)
154   _ExtendTags(opts, args)
155   if not args:
156     raise errors.OpPrereqError("No tags to be removed")
157   op = opcodes.OpDelTags(kind=kind, name=name, tags=args)
158   SubmitOpCode(op)
159
160
161 DEBUG_OPT = make_option("-d", "--debug", default=False,
162                         action="store_true",
163                         help="Turn debugging on")
164
165 NOHDR_OPT = make_option("--no-headers", default=False,
166                         action="store_true", dest="no_headers",
167                         help="Don't display column headers")
168
169 SEP_OPT = make_option("--separator", default=None,
170                       action="store", dest="separator",
171                       help="Separator between output fields"
172                       " (defaults to one space)")
173
174 USEUNITS_OPT = make_option("--units", default=None,
175                            dest="units", choices=('h', 'm', 'g', 't'),
176                            help="Specify units for output (one of hmgt)")
177
178 FIELDS_OPT = make_option("-o", "--output", dest="output", action="store",
179                          type="string", help="Comma separated list of"
180                          " output fields",
181                          metavar="FIELDS")
182
183 FORCE_OPT = make_option("-f", "--force", dest="force", action="store_true",
184                         default=False, help="Force the operation")
185
186 TAG_SRC_OPT = make_option("--from", dest="tags_source",
187                           default=None, help="File with tag names")
188
189 SUBMIT_OPT = make_option("--submit", dest="submit_only",
190                          default=False, action="store_true",
191                          help="Submit the job and return the job ID, but"
192                          " don't wait for the job to finish")
193
194
195 def ARGS_FIXED(val):
196   """Macro-like function denoting a fixed number of arguments"""
197   return -val
198
199
200 def ARGS_ATLEAST(val):
201   """Macro-like function denoting a minimum number of arguments"""
202   return val
203
204
205 ARGS_NONE = None
206 ARGS_ONE = ARGS_FIXED(1)
207 ARGS_ANY = ARGS_ATLEAST(0)
208
209
210 def check_unit(option, opt, value):
211   """OptParsers custom converter for units.
212
213   """
214   try:
215     return utils.ParseUnit(value)
216   except errors.UnitParseError, err:
217     raise OptionValueError("option %s: %s" % (opt, err))
218
219
220 class CliOption(Option):
221   """Custom option class for optparse.
222
223   """
224   TYPES = Option.TYPES + ("unit",)
225   TYPE_CHECKER = copy.copy(Option.TYPE_CHECKER)
226   TYPE_CHECKER["unit"] = check_unit
227
228
229 def _SplitKeyVal(opt, data):
230   """Convert a KeyVal string into a dict.
231
232   This function will convert a key=val[,...] string into a dict. Empty
233   values will be converted specially: keys which have the prefix 'no_'
234   will have the value=False and the prefix stripped, the others will
235   have value=True.
236
237   @type opt: string
238   @param opt: a string holding the option name for which we process the
239       data, used in building error messages
240   @type data: string
241   @param data: a string of the format key=val,key=val,...
242   @rtype: dict
243   @return: {key=val, key=val}
244   @raises errors.ParameterError: if there are duplicate keys
245
246   """
247   NO_PREFIX = "no_"
248   UN_PREFIX = "-"
249   kv_dict = {}
250   for elem in data.split(","):
251     if "=" in elem:
252       key, val = elem.split("=", 1)
253     else:
254       if elem.startswith(NO_PREFIX):
255         key, val = elem[len(NO_PREFIX):], False
256       elif elem.startswith(UN_PREFIX):
257         key, val = elem[len(UN_PREFIX):], None
258       else:
259         key, val = elem, True
260     if key in kv_dict:
261       raise errors.ParameterError("Duplicate key '%s' in option %s" %
262                                   (key, opt))
263     kv_dict[key] = val
264   return kv_dict
265
266
267 def check_ident_key_val(option, opt, value):
268   """Custom parser for the IdentKeyVal option type.
269
270   """
271   if ":" not in value:
272     retval =  (value, {})
273   else:
274     ident, rest = value.split(":", 1)
275     kv_dict = _SplitKeyVal(opt, rest)
276     retval = (ident, kv_dict)
277   return retval
278
279
280 class IdentKeyValOption(Option):
281   """Custom option class for ident:key=val,key=val options.
282
283   This will store the parsed values as a tuple (ident, {key: val}). As
284   such, multiple uses of this option via action=append is possible.
285
286   """
287   TYPES = Option.TYPES + ("identkeyval",)
288   TYPE_CHECKER = copy.copy(Option.TYPE_CHECKER)
289   TYPE_CHECKER["identkeyval"] = check_ident_key_val
290
291
292 def check_key_val(option, opt, value):
293   """Custom parser for the KeyVal option type.
294
295   """
296   return _SplitKeyVal(opt, value)
297
298
299 class KeyValOption(Option):
300   """Custom option class for key=val,key=val options.
301
302   This will store the parsed values as a dict {key: val}.
303
304   """
305   TYPES = Option.TYPES + ("keyval",)
306   TYPE_CHECKER = copy.copy(Option.TYPE_CHECKER)
307   TYPE_CHECKER["keyval"] = check_key_val
308
309
310 # optparse.py sets make_option, so we do it for our own option class, too
311 cli_option = CliOption
312 ikv_option = IdentKeyValOption
313 keyval_option = KeyValOption
314
315
316 def _ParseArgs(argv, commands, aliases):
317   """Parses the command line and return the function which must be
318   executed together with its arguments
319
320   Arguments:
321     argv: the command line
322
323     commands: dictionary with special contents, see the design doc for
324     cmdline handling
325     aliases: dictionary with command aliases {'alias': 'target, ...}
326
327   """
328   if len(argv) == 0:
329     binary = "<command>"
330   else:
331     binary = argv[0].split("/")[-1]
332
333   if len(argv) > 1 and argv[1] == "--version":
334     print "%s (ganeti) %s" % (binary, constants.RELEASE_VERSION)
335     # Quit right away. That way we don't have to care about this special
336     # argument. optparse.py does it the same.
337     sys.exit(0)
338
339   if len(argv) < 2 or not (argv[1] in commands or
340                            argv[1] in aliases):
341     # let's do a nice thing
342     sortedcmds = commands.keys()
343     sortedcmds.sort()
344     print ("Usage: %(bin)s {command} [options...] [argument...]"
345            "\n%(bin)s <command> --help to see details, or"
346            " man %(bin)s\n" % {"bin": binary})
347     # compute the max line length for cmd + usage
348     mlen = max([len(" %s" % cmd) for cmd in commands])
349     mlen = min(60, mlen) # should not get here...
350     # and format a nice command list
351     print "Commands:"
352     for cmd in sortedcmds:
353       cmdstr = " %s" % (cmd,)
354       help_text = commands[cmd][4]
355       help_lines = textwrap.wrap(help_text, 79-3-mlen)
356       print "%-*s - %s" % (mlen, cmdstr, help_lines.pop(0))
357       for line in help_lines:
358         print "%-*s   %s" % (mlen, "", line)
359     print
360     return None, None, None
361
362   # get command, unalias it, and look it up in commands
363   cmd = argv.pop(1)
364   if cmd in aliases:
365     if cmd in commands:
366       raise errors.ProgrammerError("Alias '%s' overrides an existing"
367                                    " command" % cmd)
368
369     if aliases[cmd] not in commands:
370       raise errors.ProgrammerError("Alias '%s' maps to non-existing"
371                                    " command '%s'" % (cmd, aliases[cmd]))
372
373     cmd = aliases[cmd]
374
375   func, nargs, parser_opts, usage, description = commands[cmd]
376   parser = OptionParser(option_list=parser_opts,
377                         description=description,
378                         formatter=TitledHelpFormatter(),
379                         usage="%%prog %s %s" % (cmd, usage))
380   parser.disable_interspersed_args()
381   options, args = parser.parse_args()
382   if nargs is None:
383     if len(args) != 0:
384       print >> sys.stderr, ("Error: Command %s expects no arguments" % cmd)
385       return None, None, None
386   elif nargs < 0 and len(args) != -nargs:
387     print >> sys.stderr, ("Error: Command %s expects %d argument(s)" %
388                          (cmd, -nargs))
389     return None, None, None
390   elif nargs >= 0 and len(args) < nargs:
391     print >> sys.stderr, ("Error: Command %s expects at least %d argument(s)" %
392                          (cmd, nargs))
393     return None, None, None
394
395   return func, options, args
396
397
398 def SplitNodeOption(value):
399   """Splits the value of a --node option.
400
401   """
402   if value and ':' in value:
403     return value.split(':', 1)
404   else:
405     return (value, None)
406
407
408 def ValidateBeParams(bep):
409   """Parse and check the given beparams.
410
411   The function will update in-place the given dictionary.
412
413   @type bep: dict
414   @param bep: input beparams
415   @raise errors.ParameterError: if the input values are not OK
416   @raise errors.UnitParseError: if the input values are not OK
417
418   """
419   if constants.BE_MEMORY in bep:
420     bep[constants.BE_MEMORY] = utils.ParseUnit(bep[constants.BE_MEMORY])
421
422   if constants.BE_VCPUS in bep:
423     try:
424       bep[constants.BE_VCPUS] = int(bep[constants.BE_VCPUS])
425     except ValueError:
426       raise errors.ParameterError("Invalid number of VCPUs")
427
428
429 def UsesRPC(fn):
430   def wrapper(*args, **kwargs):
431     rpc.Init()
432     try:
433       return fn(*args, **kwargs)
434     finally:
435       rpc.Shutdown()
436   return wrapper
437
438
439 def AskUser(text, choices=None):
440   """Ask the user a question.
441
442   Args:
443     text - the question to ask.
444
445     choices - list with elements tuples (input_char, return_value,
446     description); if not given, it will default to: [('y', True,
447     'Perform the operation'), ('n', False, 'Do no do the operation')];
448     note that the '?' char is reserved for help
449
450   Returns: one of the return values from the choices list; if input is
451   not possible (i.e. not running with a tty, we return the last entry
452   from the list
453
454   """
455   if choices is None:
456     choices = [('y', True, 'Perform the operation'),
457                ('n', False, 'Do not perform the operation')]
458   if not choices or not isinstance(choices, list):
459     raise errors.ProgrammerError("Invalid choiches argument to AskUser")
460   for entry in choices:
461     if not isinstance(entry, tuple) or len(entry) < 3 or entry[0] == '?':
462       raise errors.ProgrammerError("Invalid choiches element to AskUser")
463
464   answer = choices[-1][1]
465   new_text = []
466   for line in text.splitlines():
467     new_text.append(textwrap.fill(line, 70, replace_whitespace=False))
468   text = "\n".join(new_text)
469   try:
470     f = file("/dev/tty", "a+")
471   except IOError:
472     return answer
473   try:
474     chars = [entry[0] for entry in choices]
475     chars[-1] = "[%s]" % chars[-1]
476     chars.append('?')
477     maps = dict([(entry[0], entry[1]) for entry in choices])
478     while True:
479       f.write(text)
480       f.write('\n')
481       f.write("/".join(chars))
482       f.write(": ")
483       line = f.readline(2).strip().lower()
484       if line in maps:
485         answer = maps[line]
486         break
487       elif line == '?':
488         for entry in choices:
489           f.write(" %s - %s\n" % (entry[0], entry[2]))
490         f.write("\n")
491         continue
492   finally:
493     f.close()
494   return answer
495
496
497 class JobSubmittedException(Exception):
498   """Job was submitted, client should exit.
499
500   This exception has one argument, the ID of the job that was
501   submitted. The handler should print this ID.
502
503   This is not an error, just a structured way to exit from clients.
504
505   """
506
507
508 def SendJob(ops, cl=None):
509   """Function to submit an opcode without waiting for the results.
510
511   @type ops: list
512   @param ops: list of opcodes
513   @type cl: luxi.Client
514   @param cl: the luxi client to use for communicating with the master;
515              if None, a new client will be created
516
517   """
518   if cl is None:
519     cl = GetClient()
520
521   job_id = cl.SubmitJob(ops)
522
523   return job_id
524
525
526 def PollJob(job_id, cl=None, feedback_fn=None):
527   """Function to poll for the result of a job.
528
529   @type job_id: job identified
530   @param job_id: the job to poll for results
531   @type cl: luxi.Client
532   @param cl: the luxi client to use for communicating with the master;
533              if None, a new client will be created
534
535   """
536   if cl is None:
537     cl = GetClient()
538
539   prev_job_info = None
540   prev_logmsg_serial = None
541
542   while True:
543     result = cl.WaitForJobChange(job_id, ["status"], prev_job_info,
544                                  prev_logmsg_serial)
545     if not result:
546       # job not found, go away!
547       raise errors.JobLost("Job with id %s lost" % job_id)
548
549     # Split result, a tuple of (field values, log entries)
550     (job_info, log_entries) = result
551     (status, ) = job_info
552
553     if log_entries:
554       for log_entry in log_entries:
555         (serial, timestamp, _, message) = log_entry
556         if callable(feedback_fn):
557           feedback_fn(log_entry[1:])
558         else:
559           print "%s %s" % (time.ctime(utils.MergeTime(timestamp)), message)
560         prev_logmsg_serial = max(prev_logmsg_serial, serial)
561
562     # TODO: Handle canceled and archived jobs
563     elif status in (constants.JOB_STATUS_SUCCESS,
564                     constants.JOB_STATUS_ERROR,
565                     constants.JOB_STATUS_CANCELING,
566                     constants.JOB_STATUS_CANCELED):
567       break
568
569     prev_job_info = job_info
570
571   jobs = cl.QueryJobs([job_id], ["status", "opstatus", "opresult"])
572   if not jobs:
573     raise errors.JobLost("Job with id %s lost" % job_id)
574
575   status, opstatus, result = jobs[0]
576   if status == constants.JOB_STATUS_SUCCESS:
577     return result
578   elif status in (constants.JOB_STATUS_CANCELING,
579                   constants.JOB_STATUS_CANCELED):
580     raise errors.OpExecError("Job was canceled")
581   else:
582     has_ok = False
583     for idx, (status, msg) in enumerate(zip(opstatus, result)):
584       if status == constants.OP_STATUS_SUCCESS:
585         has_ok = True
586       elif status == constants.OP_STATUS_ERROR:
587         if has_ok:
588           raise errors.OpExecError("partial failure (opcode %d): %s" %
589                                    (idx, msg))
590         else:
591           raise errors.OpExecError(str(msg))
592     # default failure mode
593     raise errors.OpExecError(result)
594
595
596 def SubmitOpCode(op, cl=None, feedback_fn=None):
597   """Legacy function to submit an opcode.
598
599   This is just a simple wrapper over the construction of the processor
600   instance. It should be extended to better handle feedback and
601   interaction functions.
602
603   """
604   if cl is None:
605     cl = GetClient()
606
607   job_id = SendJob([op], cl)
608
609   op_results = PollJob(job_id, cl=cl, feedback_fn=feedback_fn)
610
611   return op_results[0]
612
613
614 def SubmitOrSend(op, opts, cl=None, feedback_fn=None):
615   """Wrapper around SubmitOpCode or SendJob.
616
617   This function will decide, based on the 'opts' parameter, whether to
618   submit and wait for the result of the opcode (and return it), or
619   whether to just send the job and print its identifier. It is used in
620   order to simplify the implementation of the '--submit' option.
621
622   """
623   if opts and opts.submit_only:
624     job_id = SendJob([op], cl=cl)
625     raise JobSubmittedException(job_id)
626   else:
627     return SubmitOpCode(op, cl=cl, feedback_fn=feedback_fn)
628
629
630 def GetClient():
631   # TODO: Cache object?
632   try:
633     client = luxi.Client()
634   except luxi.NoMasterError:
635     master, myself = ssconf.GetMasterAndMyself()
636     if master != myself:
637       raise errors.OpPrereqError("This is not the master node, please connect"
638                                  " to node '%s' and rerun the command" %
639                                  master)
640     else:
641       raise
642   return client
643
644
645 def FormatError(err):
646   """Return a formatted error message for a given error.
647
648   This function takes an exception instance and returns a tuple
649   consisting of two values: first, the recommended exit code, and
650   second, a string describing the error message (not
651   newline-terminated).
652
653   """
654   retcode = 1
655   obuf = StringIO()
656   msg = str(err)
657   if isinstance(err, errors.ConfigurationError):
658     txt = "Corrupt configuration file: %s" % msg
659     logging.error(txt)
660     obuf.write(txt + "\n")
661     obuf.write("Aborting.")
662     retcode = 2
663   elif isinstance(err, errors.HooksAbort):
664     obuf.write("Failure: hooks execution failed:\n")
665     for node, script, out in err.args[0]:
666       if out:
667         obuf.write("  node: %s, script: %s, output: %s\n" %
668                    (node, script, out))
669       else:
670         obuf.write("  node: %s, script: %s (no output)\n" %
671                    (node, script))
672   elif isinstance(err, errors.HooksFailure):
673     obuf.write("Failure: hooks general failure: %s" % msg)
674   elif isinstance(err, errors.ResolverError):
675     this_host = utils.HostInfo.SysName()
676     if err.args[0] == this_host:
677       msg = "Failure: can't resolve my own hostname ('%s')"
678     else:
679       msg = "Failure: can't resolve hostname '%s'"
680     obuf.write(msg % err.args[0])
681   elif isinstance(err, errors.OpPrereqError):
682     obuf.write("Failure: prerequisites not met for this"
683                " operation:\n%s" % msg)
684   elif isinstance(err, errors.OpExecError):
685     obuf.write("Failure: command execution error:\n%s" % msg)
686   elif isinstance(err, errors.TagError):
687     obuf.write("Failure: invalid tag(s) given:\n%s" % msg)
688   elif isinstance(err, errors.JobQueueDrainError):
689     obuf.write("Failure: the job queue is marked for drain and doesn't"
690                " accept new requests\n")
691   elif isinstance(err, errors.GenericError):
692     obuf.write("Unhandled Ganeti error: %s" % msg)
693   elif isinstance(err, luxi.NoMasterError):
694     obuf.write("Cannot communicate with the master daemon.\nIs it running"
695                " and listening for connections?")
696   elif isinstance(err, luxi.TimeoutError):
697     obuf.write("Timeout while talking to the master daemon. Error:\n"
698                "%s" % msg)
699   elif isinstance(err, luxi.ProtocolError):
700     obuf.write("Unhandled protocol error while talking to the master daemon:\n"
701                "%s" % msg)
702   elif isinstance(err, JobSubmittedException):
703     obuf.write("JobID: %s\n" % err.args[0])
704     retcode = 0
705   else:
706     obuf.write("Unhandled exception: %s" % msg)
707   return retcode, obuf.getvalue().rstrip('\n')
708
709
710 def GenericMain(commands, override=None, aliases=None):
711   """Generic main function for all the gnt-* commands.
712
713   Arguments:
714     - commands: a dictionary with a special structure, see the design doc
715                 for command line handling.
716     - override: if not None, we expect a dictionary with keys that will
717                 override command line options; this can be used to pass
718                 options from the scripts to generic functions
719     - aliases: dictionary with command aliases {'alias': 'target, ...}
720
721   """
722   # save the program name and the entire command line for later logging
723   if sys.argv:
724     binary = os.path.basename(sys.argv[0]) or sys.argv[0]
725     if len(sys.argv) >= 2:
726       binary += " " + sys.argv[1]
727       old_cmdline = " ".join(sys.argv[2:])
728     else:
729       old_cmdline = ""
730   else:
731     binary = "<unknown program>"
732     old_cmdline = ""
733
734   if aliases is None:
735     aliases = {}
736
737   func, options, args = _ParseArgs(sys.argv, commands, aliases)
738   if func is None: # parse error
739     return 1
740
741   if override is not None:
742     for key, val in override.iteritems():
743       setattr(options, key, val)
744
745   utils.SetupLogging(constants.LOG_COMMANDS, debug=options.debug,
746                      stderr_logging=True, program=binary)
747
748   utils.debug = options.debug
749
750   if old_cmdline:
751     logging.info("run with arguments '%s'", old_cmdline)
752   else:
753     logging.info("run with no arguments")
754
755   try:
756     result = func(options, args)
757   except (errors.GenericError, luxi.ProtocolError,
758           JobSubmittedException), err:
759     result, err_msg = FormatError(err)
760     logging.exception("Error durring command processing")
761     ToStderr(err_msg)
762
763   return result
764
765
766 def GenerateTable(headers, fields, separator, data,
767                   numfields=None, unitfields=None,
768                   units=None):
769   """Prints a table with headers and different fields.
770
771   @type headers: dict
772   @param headers: dictionary mapping field names to headers for
773       the table
774   @type fields: list
775   @param fields: the field names corresponding to each row in
776       the data field
777   @param separator: the separator to be used; if this is None,
778       the default 'smart' algorithm is used which computes optimal
779       field width, otherwise just the separator is used between
780       each field
781   @type data: list
782   @param data: a list of lists, each sublist being one row to be output
783   @type numfields: list
784   @param numfields: a list with the fields that hold numeric
785       values and thus should be right-aligned
786   @type unitfields: list
787   @param unitfields: a list with the fields that hold numeric
788       values that should be formatted with the units field
789   @type units: string or None
790   @param units: the units we should use for formatting, or None for
791       automatic choice (human-readable for non-separator usage, otherwise
792       megabytes); this is a one-letter string
793
794   """
795   if units is None:
796     if separator:
797       units = "m"
798     else:
799       units = "h"
800
801   if numfields is None:
802     numfields = []
803   if unitfields is None:
804     unitfields = []
805
806   numfields = utils.FieldSet(*numfields)
807   unitfields = utils.FieldSet(*unitfields)
808
809   format_fields = []
810   for field in fields:
811     if headers and field not in headers:
812       # FIXME: handle better unknown fields (either revert to old
813       # style of raising exception, or deal more intelligently with
814       # variable fields)
815       headers[field] = field
816     if separator is not None:
817       format_fields.append("%s")
818     elif numfields.Matches(field):
819       format_fields.append("%*s")
820     else:
821       format_fields.append("%-*s")
822
823   if separator is None:
824     mlens = [0 for name in fields]
825     format = ' '.join(format_fields)
826   else:
827     format = separator.replace("%", "%%").join(format_fields)
828
829   for row in data:
830     for idx, val in enumerate(row):
831       if unitfields.Matches(fields[idx]):
832         try:
833           val = int(val)
834         except ValueError:
835           pass
836         else:
837           val = row[idx] = utils.FormatUnit(val, units)
838       val = row[idx] = str(val)
839       if separator is None:
840         mlens[idx] = max(mlens[idx], len(val))
841
842   result = []
843   if headers:
844     args = []
845     for idx, name in enumerate(fields):
846       hdr = headers[name]
847       if separator is None:
848         mlens[idx] = max(mlens[idx], len(hdr))
849         args.append(mlens[idx])
850       args.append(hdr)
851     result.append(format % tuple(args))
852
853   for line in data:
854     args = []
855     for idx in xrange(len(fields)):
856       if separator is None:
857         args.append(mlens[idx])
858       args.append(line[idx])
859     result.append(format % tuple(args))
860
861   return result
862
863
864 def FormatTimestamp(ts):
865   """Formats a given timestamp.
866
867   @type ts: timestamp
868   @param ts: a timeval-type timestamp, a tuple of seconds and microseconds
869
870   @rtype: string
871   @returns: a string with the formatted timestamp
872
873   """
874   if not isinstance (ts, (tuple, list)) or len(ts) != 2:
875     return '?'
876   sec, usec = ts
877   return time.strftime("%F %T", time.localtime(sec)) + ".%06d" % usec
878
879
880 def ParseTimespec(value):
881   """Parse a time specification.
882
883   The following suffixed will be recognized:
884
885     - s: seconds
886     - m: minutes
887     - h: hours
888     - d: day
889     - w: weeks
890
891   Without any suffix, the value will be taken to be in seconds.
892
893   """
894   value = str(value)
895   if not value:
896     raise errors.OpPrereqError("Empty time specification passed")
897   suffix_map = {
898     's': 1,
899     'm': 60,
900     'h': 3600,
901     'd': 86400,
902     'w': 604800,
903     }
904   if value[-1] not in suffix_map:
905     try:
906       value = int(value)
907     except ValueError:
908       raise errors.OpPrereqError("Invalid time specification '%s'" % value)
909   else:
910     multiplier = suffix_map[value[-1]]
911     value = value[:-1]
912     if not value: # no data left after stripping the suffix
913       raise errors.OpPrereqError("Invalid time specification (only"
914                                  " suffix passed)")
915     try:
916       value = int(value) * multiplier
917     except ValueError:
918       raise errors.OpPrereqError("Invalid time specification '%s'" % value)
919   return value
920
921
922 def _ToStream(stream, txt, *args):
923   """Write a message to a stream, bypassing the logging system
924
925   @type stream: file object
926   @param stream: the file to which we should write
927   @type txt: str
928   @param txt: the message
929
930   """
931   if args:
932     args = tuple(args)
933     stream.write(txt % args)
934   else:
935     stream.write(txt)
936   stream.write('\n')
937   stream.flush()
938
939
940 def ToStdout(txt, *args):
941   """Write a message to stdout only, bypassing the logging system
942
943   This is just a wrapper over _ToStream.
944
945   @type txt: str
946   @param txt: the message
947
948   """
949   _ToStream(sys.stdout, txt, *args)
950
951
952 def ToStderr(txt, *args):
953   """Write a message to stderr only, bypassing the logging system
954
955   This is just a wrapper over _ToStream.
956
957   @type txt: str
958   @param txt: the message
959
960   """
961   _ToStream(sys.stderr, txt, *args)