roundup/backends/back_gadfly.py

   1 # $Id: back_gadfly.py,v 1.7 2002-09-01 04:32:30 richard Exp $
   2 __doc__ = '''
   3 About Gadfly
   4 ============
   5
   6 Gadfly  is  a  collection  of  python modules that provides relational
   7 database  functionality  entirely implemented in Python. It supports a
   8 subset  of  the intergalactic standard RDBMS Structured Query Language
   9 SQL.
  10
  11
  12 Basic Structure
  13 ===============
  14
  15 We map roundup classes to relational tables. Automatically detect schema
  16 changes and modify the gadfly table schemas appropriately. Multilinks
  17 (which represent a many-to-many relationship) are handled through
  18 intermediate tables.
  19
  20 Journals are stored adjunct to the per-class tables.
  21
  22 Table names and columns have "_" prepended so the names can't
  23 clash with restricted names (like "order"). Retirement is determined by the
  24 __retired__ column being true.
  25
  26 All columns are defined as VARCHAR, since it really doesn't matter what
  27 type they're defined as. We stuff all kinds of data in there ;) [as long as
  28 it's marshallable, gadfly doesn't care]
  29
  30
  31 Additional Instance Requirements
  32 ================================
  33
  34 The instance configuration must specify where the database is. It does this
  35 with GADFLY_DATABASE, which is used as the arguments to the gadfly.gadfly()
  36 method:
  37
  38 Using an on-disk database directly (not a good idea):
  39   GADFLY_DATABASE = (database name, directory)
  40
  41 Using a network database (much better idea):
  42   GADFLY_DATABASE = (policy, password, address, port)
  43
  44 Because multiple accesses directly to a gadfly database aren't handled, but
  45 multiple network accesses are, it's strongly advised that the latter setup be
  46 used.
  47
  48 '''
  49
  50 # standard python modules
  51 import sys, os, time, re, errno, weakref, copy
  52
  53 # roundup modules
  54 from roundup import hyperdb, date, password, roundupdb, security
  55 from roundup.hyperdb import String, Password, Date, Interval, Link, \
  56     Multilink, DatabaseError, Boolean, Number
  57
  58 # the all-important gadfly :)
  59 import gadfly
  60 import gadfly.client
  61 import gadfly.database
  62
  63 # support
  64 from blobfiles import FileStorage
  65 from roundup.indexer import Indexer
  66 from sessions import Sessions
  67
  68 class Database(FileStorage, hyperdb.Database, roundupdb.Database):
  69     # flag to set on retired entries
  70     RETIRED_FLAG = '__hyperdb_retired'
  71
  72     def __init__(self, config, journaltag=None):
  73         ''' Open the database and load the schema from it.
  74         '''
  75         self.config, self.journaltag = config, journaltag
  76         self.dir = config.DATABASE
  77         self.classes = {}
  78         self.indexer = Indexer(self.dir)
  79         self.sessions = Sessions(self.config)
  80         self.security = security.Security(self)
  81
  82         # additional transaction support for external files and the like
  83         self.transactions = []
  84
  85         db = config.GADFLY_DATABASE
  86         if len(db) == 2:
  87             # ensure files are group readable and writable
  88             os.umask(0002)
  89             try:
  90                 self.conn = gadfly.gadfly(*db)
  91             except IOError, error:
  92                 if error.errno != errno.ENOENT:
  93                     raise
  94                 self.database_schema = {}
  95                 self.conn = gadfly.gadfly()
  96                 self.conn.startup(*db)
  97                 cursor = self.conn.cursor()
  98                 cursor.execute('create table schema (schema varchar)')
  99                 cursor.execute('create table ids (name varchar, num integer)')
 100             else:
 101                 cursor = self.conn.cursor()
 102                 cursor.execute('select schema from schema')
 103                 self.database_schema = cursor.fetchone()[0]
 104         else:
 105             self.conn = gadfly.client.gfclient(*db)
 106             cursor = self.conn.cursor()
 107             cursor.execute('select schema from schema')
 108             self.database_schema = cursor.fetchone()[0]
 109
 110     def __repr__(self):
 111         return '<radfly 0x%x>'%id(self)
 112
 113     def post_init(self):
 114         ''' Called once the schema initialisation has finished.
 115
 116             We should now confirm that the schema defined by our "classes"
 117             attribute actually matches the schema in the database.
 118         '''
 119         # now detect changes in the schema
 120         for classname, spec in self.classes.items():
 121             if self.database_schema.has_key(classname):
 122                 dbspec = self.database_schema[classname]
 123                 self.update_class(spec, dbspec)
 124                 self.database_schema[classname] = spec.schema()
 125             else:
 126                 self.create_class(spec)
 127                 self.database_schema[classname] = spec.schema()
 128
 129         for classname in self.database_schema.keys():
 130             if not self.classes.has_key(classname):
 131                 self.drop_class(classname)
 132
 133         # update the database version of the schema
 134         cursor = self.conn.cursor()
 135         cursor.execute('delete from schema')
 136         cursor.execute('insert into schema values (?)', (self.database_schema,))
 137
 138         # reindex the db if necessary
 139         if self.indexer.should_reindex():
 140             self.reindex()
 141
 142         # commit
 143         self.conn.commit()
 144
 145     def reindex(self):
 146         for klass in self.classes.values():
 147             for nodeid in klass.list():
 148                 klass.index(nodeid)
 149         self.indexer.save_index()
 150
 151     def determine_columns(self, spec):
 152         ''' Figure the column names and multilink properties from the spec
 153         '''
 154         cols = []
 155         mls = []
 156         # add the multilinks separately
 157         for col, prop in spec.properties.items():
 158             if isinstance(prop, Multilink):
 159                 mls.append(col)
 160             else:
 161                 cols.append('_'+col)
 162         cols.sort()
 163         return cols, mls
 164
 165     def update_class(self, spec, dbspec):
 166         ''' Determine the differences between the current spec and the
 167             database version of the spec, and update where necessary
 168
 169             NOTE that this doesn't work for adding/deleting properties!
 170              ... until gadfly grows an ALTER TABLE command, it's not going to!
 171         '''
 172         spec_schema = spec.schema()
 173         if spec_schema == dbspec:
 174             return
 175         if __debug__:
 176             print >>hyperdb.DEBUG, 'update_class FIRING'
 177
 178         # key property changed?
 179         if dbspec[0] != spec_schema[0]:
 180             if __debug__:
 181                 print >>hyperdb.DEBUG, 'update_class setting keyprop', `spec[0]`
 182             # XXX turn on indexing for the key property
 183
 184         # dict 'em up
 185         spec_propnames,spec_props = [],{}
 186         for propname,prop in spec_schema[1]:
 187             spec_propnames.append(propname)
 188             spec_props[propname] = prop
 189         dbspec_propnames,dbspec_props = [],{}
 190         for propname,prop in dbspec[1]:
 191             dbspec_propnames.append(propname)
 192             dbspec_props[propname] = prop
 193
 194         # we're going to need one of these
 195         cursor = self.conn.cursor()
 196
 197         # now compare
 198         for propname in spec_propnames:
 199             prop = spec_props[propname]
 200             if __debug__:
 201                 print >>hyperdb.DEBUG, 'update_class ...', `prop`
 202             if dbspec_props.has_key(propname) and prop==dbspec_props[propname]:
 203                 continue
 204             if __debug__:
 205                 print >>hyperdb.DEBUG, 'update_class', `prop`
 206
 207             if not dbspec_props.has_key(propname):
 208                 # add the property
 209                 if isinstance(prop, Multilink):
 210                     sql = 'create table %s_%s (linkid varchar, nodeid '\
 211                         'varchar)'%(spec.classname, prop)
 212                     if __debug__:
 213                         print >>hyperdb.DEBUG, 'update_class', (self, sql)
 214                     cursor.execute(sql)
 215                 else:
 216                     # XXX gadfly doesn't have an ALTER TABLE command
 217                     raise NotImplementedError
 218                     sql = 'alter table _%s add column (_%s varchar)'%(
 219                         spec.classname, propname)
 220                     if __debug__:
 221                         print >>hyperdb.DEBUG, 'update_class', (self, sql)
 222                     cursor.execute(sql)
 223             else:
 224                 # modify the property
 225                 if __debug__:
 226                     print >>hyperdb.DEBUG, 'update_class NOOP'
 227                 pass  # NOOP in gadfly
 228
 229         # and the other way - only worry about deletions here
 230         for propname in dbspec_propnames:
 231             prop = dbspec_props[propname]
 232             if spec_props.has_key(propname):
 233                 continue
 234             if __debug__:
 235                 print >>hyperdb.DEBUG, 'update_class', `prop`
 236
 237             # delete the property
 238             if isinstance(prop, Multilink):
 239                 sql = 'drop table %s_%s'%(spec.classname, prop)
 240                 if __debug__:
 241                     print >>hyperdb.DEBUG, 'update_class', (self, sql)
 242                 cursor.execute(sql)
 243             else:
 244                 # XXX gadfly doesn't have an ALTER TABLE command
 245                 raise NotImplementedError
 246                 sql = 'alter table _%s delete column _%s'%(spec.classname,
 247                     propname)
 248                 if __debug__:
 249                     print >>hyperdb.DEBUG, 'update_class', (self, sql)
 250                 cursor.execute(sql)
 251
 252     def create_class(self, spec):
 253         ''' Create a database table according to the given spec.
 254         '''
 255         cols, mls = self.determine_columns(spec)
 256
 257         # add on our special columns
 258         cols.append('id')
 259         cols.append('__retired__')
 260
 261         cursor = self.conn.cursor()
 262
 263         # create the base table
 264         cols = ','.join(['%s varchar'%x for x in cols])
 265         sql = 'create table _%s (%s)'%(spec.classname, cols)
 266         if __debug__:
 267             print >>hyperdb.DEBUG, 'create_class', (self, sql)
 268         cursor.execute(sql)
 269
 270         # journal table
 271         cols = ','.join(['%s varchar'%x
 272             for x in 'nodeid date tag action params'.split()])
 273         sql = 'create table %s__journal (%s)'%(spec.classname, cols)
 274         if __debug__:
 275             print >>hyperdb.DEBUG, 'create_class', (self, sql)
 276         cursor.execute(sql)
 277
 278         # now create the multilink tables
 279         for ml in mls:
 280             sql = 'create table %s_%s (linkid varchar, nodeid varchar)'%(
 281                 spec.classname, ml)
 282             if __debug__:
 283                 print >>hyperdb.DEBUG, 'create_class', (self, sql)
 284             cursor.execute(sql)
 285
 286         # ID counter
 287         sql = 'insert into ids (name, num) values (?,?)'
 288         vals = (spec.classname, 1)
 289         if __debug__:
 290             print >>hyperdb.DEBUG, 'create_class', (self, sql, vals)
 291         cursor.execute(sql, vals)
 292
 293     def drop_class(self, spec):
 294         ''' Drop the given table from the database.
 295
 296             Drop the journal and multilink tables too.
 297         '''
 298         # figure the multilinks
 299         mls = []
 300         for col, prop in spec.properties.items():
 301             if isinstance(prop, Multilink):
 302                 mls.append(col)
 303         cursor = self.conn.cursor()
 304
 305         sql = 'drop table _%s'%spec.classname
 306         if __debug__:
 307             print >>hyperdb.DEBUG, 'drop_class', (self, sql)
 308         cursor.execute(sql)
 309
 310         sql = 'drop table %s__journal'%spec.classname
 311         if __debug__:
 312             print >>hyperdb.DEBUG, 'drop_class', (self, sql)
 313         cursor.execute(sql)
 314
 315         for ml in mls:
 316             sql = 'drop table %s_%s'%(spec.classname, ml)
 317             if __debug__:
 318                 print >>hyperdb.DEBUG, 'drop_class', (self, sql)
 319             cursor.execute(sql)
 320
 321     #
 322     # Classes
 323     #
 324     def __getattr__(self, classname):
 325         ''' A convenient way of calling self.getclass(classname).
 326         '''
 327         if self.classes.has_key(classname):
 328             if __debug__:
 329                 print >>hyperdb.DEBUG, '__getattr__', (self, classname)
 330             return self.classes[classname]
 331         raise AttributeError, classname
 332
 333     def addclass(self, cl):
 334         ''' Add a Class to the hyperdatabase.
 335         '''
 336         if __debug__:
 337             print >>hyperdb.DEBUG, 'addclass', (self, cl)
 338         cn = cl.classname
 339         if self.classes.has_key(cn):
 340             raise ValueError, cn
 341         self.classes[cn] = cl
 342
 343     def getclasses(self):
 344         ''' Return a list of the names of all existing classes.
 345         '''
 346         if __debug__:
 347             print >>hyperdb.DEBUG, 'getclasses', (self,)
 348         l = self.classes.keys()
 349         l.sort()
 350         return l
 351
 352     def getclass(self, classname):
 353         '''Get the Class object representing a particular class.
 354
 355         If 'classname' is not a valid class name, a KeyError is raised.
 356         '''
 357         if __debug__:
 358             print >>hyperdb.DEBUG, 'getclass', (self, classname)
 359         return self.classes[classname]
 360
 361     def clear(self):
 362         ''' Delete all database contents.
 363
 364             Note: I don't commit here, which is different behaviour to the
 365             "nuke from orbit" behaviour in the *dbms.
 366         '''
 367         if __debug__:
 368             print >>hyperdb.DEBUG, 'clear', (self,)
 369         cursor = self.conn.cursor()
 370         for cn in self.classes.keys():
 371             sql = 'delete from _%s'%cn
 372             if __debug__:
 373                 print >>hyperdb.DEBUG, 'clear', (self, sql)
 374             cursor.execute(sql)
 375
 376     #
 377     # Node IDs
 378     #
 379     def newid(self, classname):
 380         ''' Generate a new id for the given class
 381         '''
 382         # get the next ID
 383         cursor = self.conn.cursor()
 384         sql = 'select num from ids where name=?'
 385         if __debug__:
 386             print >>hyperdb.DEBUG, 'newid', (self, sql, classname)
 387         cursor.execute(sql, (classname, ))
 388         newid = cursor.fetchone()[0]
 389
 390         # update the counter
 391         sql = 'update ids set num=? where name=?'
 392         vals = (newid+1, classname)
 393         if __debug__:
 394             print >>hyperdb.DEBUG, 'newid', (self, sql, vals)
 395         cursor.execute(sql, vals)
 396
 397         # return as string
 398         return str(newid)
 399
 400     def setid(self, classname, setid):
 401         ''' Set the id counter: used during import of database
 402         '''
 403         cursor = self.conn.cursor()
 404         sql = 'update ids set num=? where name=?'
 405         vals = (setid, spec.classname)
 406         if __debug__:
 407             print >>hyperdb.DEBUG, 'setid', (self, sql, vals)
 408         cursor.execute(sql, vals)
 409
 410     #
 411     # Nodes
 412     #
 413
 414     def addnode(self, classname, nodeid, node):
 415         ''' Add the specified node to its class's db.
 416         '''
 417         if __debug__:
 418             print >>hyperdb.DEBUG, 'addnode', (self, classname, nodeid, node)
 419         # gadfly requires values for all non-multilink columns
 420         cl = self.classes[classname]
 421         cols, mls = self.determine_columns(cl)
 422
 423         # default the non-multilink columns
 424         for col, prop in cl.properties.items():
 425             if not isinstance(col, Multilink):
 426                 if not node.has_key(col):
 427                     node[col] = None
 428
 429         node = self.serialise(classname, node)
 430
 431         # make sure the ordering is correct for column name -> column value
 432         vals = tuple([node[col[1:]] for col in cols]) + (nodeid, 0)
 433         s = ','.join(['?' for x in cols]) + ',?,?'
 434         cols = ','.join(cols) + ',id,__retired__'
 435
 436         # perform the inserts
 437         cursor = self.conn.cursor()
 438         sql = 'insert into _%s (%s) values (%s)'%(classname, cols, s)
 439         if __debug__:
 440             print >>hyperdb.DEBUG, 'addnode', (self, sql, vals)
 441         cursor.execute(sql, vals)
 442
 443         # insert the multilink rows
 444         for col in mls:
 445             t = '%s_%s'%(classname, col)
 446             for entry in node[col]:
 447                 sql = 'insert into %s (linkid, nodeid) values (?,?)'%t
 448                 vals = (entry, nodeid)
 449                 if __debug__:
 450                     print >>hyperdb.DEBUG, 'addnode', (self, sql, vals)
 451                 cursor.execute(sql, vals)
 452
 453         # make sure we do the commit-time extra stuff for this node
 454         self.transactions.append((self.doSaveNode, (classname, nodeid, node)))
 455
 456     def setnode(self, classname, nodeid, node, multilink_changes):
 457         ''' Change the specified node.
 458         '''
 459         if __debug__:
 460             print >>hyperdb.DEBUG, 'setnode', (self, classname, nodeid, node)
 461         node = self.serialise(classname, node)
 462
 463         cl = self.classes[classname]
 464         cols = []
 465         mls = []
 466         # add the multilinks separately
 467         for col in node.keys():
 468             prop = cl.properties[col]
 469             if isinstance(prop, Multilink):
 470                 mls.append(col)
 471             else:
 472                 cols.append('_'+col)
 473         cols.sort()
 474
 475         # make sure the ordering is correct for column name -> column value
 476         vals = tuple([node[col[1:]] for col in cols])
 477         s = ','.join(['%s=?'%x for x in cols])
 478         cols = ','.join(cols)
 479
 480         # perform the update
 481         cursor = self.conn.cursor()
 482         sql = 'update _%s set %s'%(classname, s)
 483         if __debug__:
 484             print >>hyperdb.DEBUG, 'setnode', (self, sql, vals)
 485         cursor.execute(sql, vals)
 486
 487         # now the fun bit, updating the multilinks ;)
 488         for col, (add, remove) in multilink_changes.items():
 489             tn = '%s_%s'%(classname, col)
 490             if add:
 491                 sql = 'insert into %s (nodeid, linkid) values (?,?)'%tn
 492                 vals = [(nodeid, addid) for addid in add]
 493                 if __debug__:
 494                     print >>hyperdb.DEBUG, 'setnode (add)', (self, sql, vals)
 495                 cursor.execute(sql, vals)
 496             if remove:
 497                 sql = 'delete from %s where nodeid=? and linkid=?'%tn
 498                 vals = [(nodeid, removeid) for removeid in remove]
 499                 if __debug__:
 500                     print >>hyperdb.DEBUG, 'setnode (rem)', (self, sql, vals)
 501                 cursor.execute(sql, vals)
 502
 503         # make sure we do the commit-time extra stuff for this node
 504         self.transactions.append((self.doSaveNode, (classname, nodeid, node)))
 505
 506     def getnode(self, classname, nodeid):
 507         ''' Get a node from the database.
 508         '''
 509         if __debug__:
 510             print >>hyperdb.DEBUG, 'getnode', (self, classname, nodeid)
 511         # figure the columns we're fetching
 512         cl = self.classes[classname]
 513         cols, mls = self.determine_columns(cl)
 514         scols = ','.join(cols)
 515
 516         # perform the basic property fetch
 517         cursor = self.conn.cursor()
 518         sql = 'select %s from _%s where id=?'%(scols, classname)
 519         if __debug__:
 520             print >>hyperdb.DEBUG, 'getnode', (self, sql, nodeid)
 521         cursor.execute(sql, (nodeid,))
 522         try:
 523             values = cursor.fetchone()
 524         except gadfly.database.error, message:
 525             if message == 'no more results':
 526                 raise IndexError, 'no such %s node %s'%(classname, nodeid)
 527             raise
 528
 529         # make up the node
 530         node = {}
 531         for col in range(len(cols)):
 532             node[cols[col][1:]] = values[col]
 533
 534         # now the multilinks
 535         for col in mls:
 536             # get the link ids
 537             sql = 'select linkid from %s_%s where nodeid=?'%(classname, col)
 538             if __debug__:
 539                 print >>hyperdb.DEBUG, 'getnode', (self, sql, nodeid)
 540             cursor.execute(sql, (nodeid,))
 541             # extract the first column from the result
 542             node[col] = [x[0] for x in cursor.fetchall()]
 543
 544         return self.unserialise(classname, node)
 545
 546     def destroynode(self, classname, nodeid):
 547         '''Remove a node from the database. Called exclusively by the
 548            destroy() method on Class.
 549         '''
 550         if __debug__:
 551             print >>hyperdb.DEBUG, 'destroynode', (self, classname, nodeid)
 552
 553         # make sure the node exists
 554         if not self.hasnode(classname, nodeid):
 555             raise IndexError, '%s has no node %s'%(classname, nodeid)
 556
 557         # see if there's any obvious commit actions that we should get rid of
 558         for entry in self.transactions[:]:
 559             if entry[1][:2] == (classname, nodeid):
 560                 self.transactions.remove(entry)
 561
 562         # now do the SQL
 563         cursor = self.conn.cursor()
 564         sql = 'delete from _%s where id=?'%(classname)
 565         if __debug__:
 566             print >>hyperdb.DEBUG, 'destroynode', (self, sql, nodeid)
 567         cursor.execute(sql, (nodeid,))
 568
 569     def serialise(self, classname, node):
 570         '''Copy the node contents, converting non-marshallable data into
 571            marshallable data.
 572         '''
 573         if __debug__:
 574             print >>hyperdb.DEBUG, 'serialise', classname, node
 575         properties = self.getclass(classname).getprops()
 576         d = {}
 577         for k, v in node.items():
 578             # if the property doesn't exist, or is the "retired" flag then
 579             # it won't be in the properties dict
 580             if not properties.has_key(k):
 581                 d[k] = v
 582                 continue
 583
 584             # get the property spec
 585             prop = properties[k]
 586
 587             if isinstance(prop, Password):
 588                 d[k] = str(v)
 589             elif isinstance(prop, Date) and v is not None:
 590                 d[k] = v.serialise()
 591             elif isinstance(prop, Interval) and v is not None:
 592                 d[k] = v.serialise()
 593             else:
 594                 d[k] = v
 595         return d
 596
 597     def unserialise(self, classname, node):
 598         '''Decode the marshalled node data
 599         '''
 600         if __debug__:
 601             print >>hyperdb.DEBUG, 'unserialise', classname, node
 602         properties = self.getclass(classname).getprops()
 603         d = {}
 604         for k, v in node.items():
 605             # if the property doesn't exist, or is the "retired" flag then
 606             # it won't be in the properties dict
 607             if not properties.has_key(k):
 608                 d[k] = v
 609                 continue
 610
 611             # get the property spec
 612             prop = properties[k]
 613
 614             if isinstance(prop, Date) and v is not None:
 615                 d[k] = date.Date(v)
 616             elif isinstance(prop, Interval) and v is not None:
 617                 d[k] = date.Interval(v)
 618             elif isinstance(prop, Password):
 619                 p = password.Password()
 620                 p.unpack(v)
 621                 d[k] = p
 622             else:
 623                 d[k] = v
 624         return d
 625
 626     def hasnode(self, classname, nodeid):
 627         ''' Determine if the database has a given node.
 628         '''
 629         cursor = self.conn.cursor()
 630         sql = 'select count(*) from _%s where id=?'%classname
 631         if __debug__:
 632             print >>hyperdb.DEBUG, 'hasnode', (self, sql, nodeid)
 633         cursor.execute(sql, (nodeid,))
 634         return cursor.fetchone()[0]
 635
 636     def countnodes(self, classname):
 637         ''' Count the number of nodes that exist for a particular Class.
 638         '''
 639         cursor = self.conn.cursor()
 640         sql = 'select count(*) from _%s'%classname
 641         if __debug__:
 642             print >>hyperdb.DEBUG, 'countnodes', (self, sql)
 643         cursor.execute(sql)
 644         return cursor.fetchone()[0]
 645
 646     def getnodeids(self, classname, retired=0):
 647         ''' Retrieve all the ids of the nodes for a particular Class.
 648
 649             Set retired=None to get all nodes. Otherwise it'll get all the
 650             retired or non-retired nodes, depending on the flag.
 651         '''
 652         cursor = self.conn.cursor()
 653         # flip the sense of the flag if we don't want all of them
 654         if retired is not None:
 655             retired = not retired
 656         sql = 'select id from _%s where __retired__ <> ?'%classname
 657         if __debug__:
 658             print >>hyperdb.DEBUG, 'getnodeids', (self, sql, retired)
 659         cursor.execute(sql, (retired,))
 660         return [x[0] for x in cursor.fetchall()]
 661
 662     def addjournal(self, classname, nodeid, action, params):
 663         ''' Journal the Action
 664         'action' may be:
 665
 666             'create' or 'set' -- 'params' is a dictionary of property values
 667             'link' or 'unlink' -- 'params' is (classname, nodeid, propname)
 668             'retire' -- 'params' is None
 669         '''
 670         if isinstance(params, type({})):
 671             if params.has_key('creator'):
 672                 journaltag = self.user.get(params['creator'], 'username')
 673                 del params['creator']
 674             else:
 675                 journaltag = self.journaltag
 676             if params.has_key('created'):
 677                 journaldate = params['created'].serialise()
 678                 del params['created']
 679             else:
 680                 journaldate = date.Date().serialise()
 681             if params.has_key('activity'):
 682                 del params['activity']
 683
 684             # serialise the parameters now
 685             if action in ('set', 'create'):
 686                 params = self.serialise(classname, params)
 687         else:
 688             journaltag = self.journaltag
 689             journaldate = date.Date().serialise()
 690
 691         # create the journal entry
 692         cols = ','.join('nodeid date tag action params'.split())
 693         entry = (nodeid, journaldate, journaltag, action, params)
 694
 695         if __debug__:
 696             print >>hyperdb.DEBUG, 'doSaveJournal', entry
 697
 698         # do the insert
 699         cursor = self.conn.cursor()
 700         sql = 'insert into %s__journal (%s) values (?,?,?,?,?)'%(classname,
 701             cols)
 702         if __debug__:
 703             print >>hyperdb.DEBUG, 'addjournal', (self, sql, entry)
 704         cursor.execute(sql, entry)
 705
 706     def getjournal(self, classname, nodeid):
 707         ''' get the journal for id
 708         '''
 709         # make sure the node exists
 710         if not self.hasnode(classname, nodeid):
 711             raise IndexError, '%s has no node %s'%(classname, nodeid)
 712
 713         # now get the journal entries
 714         cols = ','.join('nodeid date tag action params'.split())
 715         cursor = self.conn.cursor()
 716         sql = 'select %s from %s__journal where nodeid=?'%(cols, classname)
 717         if __debug__:
 718             print >>hyperdb.DEBUG, 'getjournal', (self, sql, nodeid)
 719         cursor.execute(sql, (nodeid,))
 720         res = []
 721         for nodeid, date_stamp, user, action, params in cursor.fetchall():
 722             res.append((nodeid, date.Date(date_stamp), user, action, params))
 723         return res
 724
 725     def pack(self, pack_before):
 726         ''' Delete all journal entries except "create" before 'pack_before'.
 727         '''
 728         # get a 'yyyymmddhhmmss' version of the date
 729         date_stamp = pack_before.serialise()
 730
 731         # do the delete
 732         cursor = self.conn.cursor()
 733         for classname in self.classes.keys():
 734             sql = "delete from %s__journal where date<? and "\
 735                 "action<>'create'"%classname
 736             if __debug__:
 737                 print >>hyperdb.DEBUG, 'pack', (self, sql, date_stamp)
 738             cursor.execute(sql, (date_stamp,))
 739
 740     def commit(self):
 741         ''' Commit the current transactions.
 742
 743         Save all data changed since the database was opened or since the
 744         last commit() or rollback().
 745         '''
 746         if __debug__:
 747             print >>hyperdb.DEBUG, 'commit', (self,)
 748
 749         # commit gadfly
 750         self.conn.commit()
 751
 752         # now, do all the other transaction stuff
 753         reindex = {}
 754         for method, args in self.transactions:
 755             reindex[method(*args)] = 1
 756
 757         # reindex the nodes that request it
 758         for classname, nodeid in filter(None, reindex.keys()):
 759             print >>hyperdb.DEBUG, 'commit.reindex', (classname, nodeid)
 760             self.getclass(classname).index(nodeid)
 761
 762         # save the indexer state
 763         self.indexer.save_index()
 764
 765         # clear out the transactions
 766         self.transactions = []
 767
 768     def rollback(self):
 769         ''' Reverse all actions from the current transaction.
 770
 771         Undo all the changes made since the database was opened or the last
 772         commit() or rollback() was performed.
 773         '''
 774         if __debug__:
 775             print >>hyperdb.DEBUG, 'rollback', (self,)
 776
 777         # roll back gadfly
 778         self.conn.rollback()
 779
 780         # roll back "other" transaction stuff
 781         for method, args in self.transactions:
 782             # delete temporary files
 783             if method == self.doStoreFile:
 784                 self.rollbackStoreFile(*args)
 785         self.transactions = []
 786
 787     def doSaveNode(self, classname, nodeid, node):
 788         ''' dummy that just generates a reindex event
 789         '''
 790         # return the classname, nodeid so we reindex this content
 791         return (classname, nodeid)
 792
 793 #
 794 # The base Class class
 795 #
 796 class Class(hyperdb.Class):
 797     ''' The handle to a particular class of nodes in a hyperdatabase.
 798
 799         All methods except __repr__ and getnode must be implemented by a
 800         concrete backend Class.
 801     '''
 802
 803     def __init__(self, db, classname, **properties):
 804         '''Create a new class with a given name and property specification.
 805
 806         'classname' must not collide with the name of an existing class,
 807         or a ValueError is raised.  The keyword arguments in 'properties'
 808         must map names to property objects, or a TypeError is raised.
 809         '''
 810         if (properties.has_key('creation') or properties.has_key('activity')
 811                 or properties.has_key('creator')):
 812             raise ValueError, '"creation", "activity" and "creator" are '\
 813                 'reserved'
 814
 815         self.classname = classname
 816         self.properties = properties
 817         self.db = weakref.proxy(db)       # use a weak ref to avoid circularity
 818         self.key = ''
 819
 820         # should we journal changes (default yes)
 821         self.do_journal = 1
 822
 823         # do the db-related init stuff
 824         db.addclass(self)
 825
 826         self.auditors = {'create': [], 'set': [], 'retire': []}
 827         self.reactors = {'create': [], 'set': [], 'retire': []}
 828
 829     def schema(self):
 830         ''' A dumpable version of the schema that we can store in the
 831             database
 832         '''
 833         return (self.key, [(x, repr(y)) for x,y in self.properties.items()])
 834
 835     def enableJournalling(self):
 836         '''Turn journalling on for this class
 837         '''
 838         self.do_journal = 1
 839
 840     def disableJournalling(self):
 841         '''Turn journalling off for this class
 842         '''
 843         self.do_journal = 0
 844
 845     # Editing nodes:
 846     def create(self, **propvalues):
 847         ''' Create a new node of this class and return its id.
 848
 849         The keyword arguments in 'propvalues' map property names to values.
 850
 851         The values of arguments must be acceptable for the types of their
 852         corresponding properties or a TypeError is raised.
 853
 854         If this class has a key property, it must be present and its value
 855         must not collide with other key strings or a ValueError is raised.
 856
 857         Any other properties on this class that are missing from the
 858         'propvalues' dictionary are set to None.
 859
 860         If an id in a link or multilink property does not refer to a valid
 861         node, an IndexError is raised.
 862         '''
 863         if propvalues.has_key('id'):
 864             raise KeyError, '"id" is reserved'
 865
 866         if self.db.journaltag is None:
 867             raise DatabaseError, 'Database open read-only'
 868
 869         if propvalues.has_key('creation') or propvalues.has_key('activity'):
 870             raise KeyError, '"creation" and "activity" are reserved'
 871
 872         self.fireAuditors('create', None, propvalues)
 873
 874         # new node's id
 875         newid = self.db.newid(self.classname)
 876
 877         # validate propvalues
 878         num_re = re.compile('^\d+$')
 879         for key, value in propvalues.items():
 880             if key == self.key:
 881                 try:
 882                     self.lookup(value)
 883                 except KeyError:
 884                     pass
 885                 else:
 886                     raise ValueError, 'node with key "%s" exists'%value
 887
 888             # try to handle this property
 889             try:
 890                 prop = self.properties[key]
 891             except KeyError:
 892                 raise KeyError, '"%s" has no property "%s"'%(self.classname,
 893                     key)
 894
 895             if value is not None and isinstance(prop, Link):
 896                 if type(value) != type(''):
 897                     raise ValueError, 'link value must be String'
 898                 link_class = self.properties[key].classname
 899                 # if it isn't a number, it's a key
 900                 if not num_re.match(value):
 901                     try:
 902                         value = self.db.classes[link_class].lookup(value)
 903                     except (TypeError, KeyError):
 904                         raise IndexError, 'new property "%s": %s not a %s'%(
 905                             key, value, link_class)
 906                 elif not self.db.getclass(link_class).hasnode(value):
 907                     raise IndexError, '%s has no node %s'%(link_class, value)
 908
 909                 # save off the value
 910                 propvalues[key] = value
 911
 912                 # register the link with the newly linked node
 913                 if self.do_journal and self.properties[key].do_journal:
 914                     self.db.addjournal(link_class, value, 'link',
 915                         (self.classname, newid, key))
 916
 917             elif isinstance(prop, Multilink):
 918                 if type(value) != type([]):
 919                     raise TypeError, 'new property "%s" not a list of ids'%key
 920
 921                 # clean up and validate the list of links
 922                 link_class = self.properties[key].classname
 923                 l = []
 924                 for entry in value:
 925                     if type(entry) != type(''):
 926                         raise ValueError, '"%s" link value (%s) must be '\
 927                             'String'%(key, value)
 928                     # if it isn't a number, it's a key
 929                     if not num_re.match(entry):
 930                         try:
 931                             entry = self.db.classes[link_class].lookup(entry)
 932                         except (TypeError, KeyError):
 933                             raise IndexError, 'new property "%s": %s not a %s'%(
 934                                 key, entry, self.properties[key].classname)
 935                     l.append(entry)
 936                 value = l
 937                 propvalues[key] = value
 938
 939                 # handle additions
 940                 for nodeid in value:
 941                     if not self.db.getclass(link_class).hasnode(nodeid):
 942                         raise IndexError, '%s has no node %s'%(link_class,
 943                             nodeid)
 944                     # register the link with the newly linked node
 945                     if self.do_journal and self.properties[key].do_journal:
 946                         self.db.addjournal(link_class, nodeid, 'link',
 947                             (self.classname, newid, key))
 948
 949             elif isinstance(prop, String):
 950                 if type(value) != type(''):
 951                     raise TypeError, 'new property "%s" not a string'%key
 952
 953             elif isinstance(prop, Password):
 954                 if not isinstance(value, password.Password):
 955                     raise TypeError, 'new property "%s" not a Password'%key
 956
 957             elif isinstance(prop, Date):
 958                 if value is not None and not isinstance(value, date.Date):
 959                     raise TypeError, 'new property "%s" not a Date'%key
 960
 961             elif isinstance(prop, Interval):
 962                 if value is not None and not isinstance(value, date.Interval):
 963                     raise TypeError, 'new property "%s" not an Interval'%key
 964
 965             elif value is not None and isinstance(prop, Number):
 966                 try:
 967                     float(value)
 968                 except ValueError:
 969                     raise TypeError, 'new property "%s" not numeric'%key
 970
 971             elif value is not None and isinstance(prop, Boolean):
 972                 try:
 973                     int(value)
 974                 except ValueError:
 975                     raise TypeError, 'new property "%s" not boolean'%key
 976
 977         # make sure there's data where there needs to be
 978         for key, prop in self.properties.items():
 979             if propvalues.has_key(key):
 980                 continue
 981             if key == self.key:
 982                 raise ValueError, 'key property "%s" is required'%key
 983             if isinstance(prop, Multilink):
 984                 propvalues[key] = []
 985             else:
 986                 propvalues[key] = None
 987
 988         # done
 989         self.db.addnode(self.classname, newid, propvalues)
 990         if self.do_journal:
 991             self.db.addjournal(self.classname, newid, 'create', propvalues)
 992
 993         self.fireReactors('create', newid, None)
 994
 995         return newid
 996
 997     _marker = []
 998     def get(self, nodeid, propname, default=_marker, cache=1):
 999         '''Get the value of a property on an existing node of this class.
1000
1001         'nodeid' must be the id of an existing node of this class or an
1002         IndexError is raised.  'propname' must be the name of a property
1003         of this class or a KeyError is raised.
1004
1005         'cache' indicates whether the transaction cache should be queried
1006         for the node. If the node has been modified and you need to
1007         determine what its values prior to modification are, you need to
1008         set cache=0.
1009         '''
1010         if propname == 'id':
1011             return nodeid
1012
1013         if propname == 'creation':
1014             if not self.do_journal:
1015                 raise ValueError, 'Journalling is disabled for this class'
1016             journal = self.db.getjournal(self.classname, nodeid)
1017             if journal:
1018                 return self.db.getjournal(self.classname, nodeid)[0][1]
1019             else:
1020                 # on the strange chance that there's no journal
1021                 return date.Date()
1022         if propname == 'activity':
1023             if not self.do_journal:
1024                 raise ValueError, 'Journalling is disabled for this class'
1025             journal = self.db.getjournal(self.classname, nodeid)
1026             if journal:
1027                 return self.db.getjournal(self.classname, nodeid)[-1][1]
1028             else:
1029                 # on the strange chance that there's no journal
1030                 return date.Date()
1031         if propname == 'creator':
1032             if not self.do_journal:
1033                 raise ValueError, 'Journalling is disabled for this class'
1034             journal = self.db.getjournal(self.classname, nodeid)
1035             if journal:
1036                 name = self.db.getjournal(self.classname, nodeid)[0][2]
1037             else:
1038                 return None
1039             return self.db.user.lookup(name)
1040
1041         # get the property (raises KeyErorr if invalid)
1042         prop = self.properties[propname]
1043
1044         # get the node's dict
1045         d = self.db.getnode(self.classname, nodeid) #, cache=cache)
1046
1047         if not d.has_key(propname):
1048             if default is self._marker:
1049                 if isinstance(prop, Multilink):
1050                     return []
1051                 else:
1052                     return None
1053             else:
1054                 return default
1055
1056         return d[propname]
1057
1058     def getnode(self, nodeid, cache=1):
1059         ''' Return a convenience wrapper for the node.
1060
1061         'nodeid' must be the id of an existing node of this class or an
1062         IndexError is raised.
1063
1064         'cache' indicates whether the transaction cache should be queried
1065         for the node. If the node has been modified and you need to
1066         determine what its values prior to modification are, you need to
1067         set cache=0.
1068         '''
1069         return Node(self, nodeid, cache=cache)
1070
1071     def set(self, nodeid, **propvalues):
1072         '''Modify a property on an existing node of this class.
1073
1074         'nodeid' must be the id of an existing node of this class or an
1075         IndexError is raised.
1076
1077         Each key in 'propvalues' must be the name of a property of this
1078         class or a KeyError is raised.
1079
1080         All values in 'propvalues' must be acceptable types for their
1081         corresponding properties or a TypeError is raised.
1082
1083         If the value of the key property is set, it must not collide with
1084         other key strings or a ValueError is raised.
1085
1086         If the value of a Link or Multilink property contains an invalid
1087         node id, a ValueError is raised.
1088         '''
1089         if not propvalues:
1090             return propvalues
1091
1092         if propvalues.has_key('creation') or propvalues.has_key('activity'):
1093             raise KeyError, '"creation" and "activity" are reserved'
1094
1095         if propvalues.has_key('id'):
1096             raise KeyError, '"id" is reserved'
1097
1098         if self.db.journaltag is None:
1099             raise DatabaseError, 'Database open read-only'
1100
1101         self.fireAuditors('set', nodeid, propvalues)
1102         # Take a copy of the node dict so that the subsequent set
1103         # operation doesn't modify the oldvalues structure.
1104         # XXX used to try the cache here first
1105         oldvalues = copy.deepcopy(self.db.getnode(self.classname, nodeid))
1106
1107         node = self.db.getnode(self.classname, nodeid)
1108         if self.is_retired(nodeid):
1109             raise IndexError
1110         num_re = re.compile('^\d+$')
1111
1112         # if the journal value is to be different, store it in here
1113         journalvalues = {}
1114
1115         # remember the add/remove stuff for multilinks, making it easier
1116         # for the Database layer to do its stuff
1117         multilink_changes = {}
1118
1119         for propname, value in propvalues.items():
1120             # check to make sure we're not duplicating an existing key
1121             if propname == self.key and node[propname] != value:
1122                 try:
1123                     self.lookup(value)
1124                 except KeyError:
1125                     pass
1126                 else:
1127                     raise ValueError, 'node with key "%s" exists'%value
1128
1129             # this will raise the KeyError if the property isn't valid
1130             # ... we don't use getprops() here because we only care about
1131             # the writeable properties.
1132             prop = self.properties[propname]
1133
1134             # if the value's the same as the existing value, no sense in
1135             # doing anything
1136             if node.has_key(propname) and value == node[propname]:
1137                 del propvalues[propname]
1138                 continue
1139
1140             # do stuff based on the prop type
1141             if isinstance(prop, Link):
1142                 link_class = prop.classname
1143                 # if it isn't a number, it's a key
1144                 if value is not None and not isinstance(value, type('')):
1145                     raise ValueError, 'property "%s" link value be a string'%(
1146                         propname)
1147                 if isinstance(value, type('')) and not num_re.match(value):
1148                     try:
1149                         value = self.db.classes[link_class].lookup(value)
1150                     except (TypeError, KeyError):
1151                         raise IndexError, 'new property "%s": %s not a %s'%(
1152                             propname, value, prop.classname)
1153
1154                 if (value is not None and
1155                         not self.db.getclass(link_class).hasnode(value)):
1156                     raise IndexError, '%s has no node %s'%(link_class, value)
1157
1158                 if self.do_journal and prop.do_journal:
1159                     # register the unlink with the old linked node
1160                     if node[propname] is not None:
1161                         self.db.addjournal(link_class, node[propname], 'unlink',
1162                             (self.classname, nodeid, propname))
1163
1164                     # register the link with the newly linked node
1165                     if value is not None:
1166                         self.db.addjournal(link_class, value, 'link',
1167                             (self.classname, nodeid, propname))
1168
1169             elif isinstance(prop, Multilink):
1170                 if type(value) != type([]):
1171                     raise TypeError, 'new property "%s" not a list of'\
1172                         ' ids'%propname
1173                 link_class = self.properties[propname].classname
1174                 l = []
1175                 for entry in value:
1176                     # if it isn't a number, it's a key
1177                     if type(entry) != type(''):
1178                         raise ValueError, 'new property "%s" link value ' \
1179                             'must be a string'%propname
1180                     if not num_re.match(entry):
1181                         try:
1182                             entry = self.db.classes[link_class].lookup(entry)
1183                         except (TypeError, KeyError):
1184                             raise IndexError, 'new property "%s": %s not a %s'%(
1185                                 propname, entry,
1186                                 self.properties[propname].classname)
1187                     l.append(entry)
1188                 value = l
1189                 propvalues[propname] = value
1190
1191                 # figure the journal entry for this property
1192                 add = []
1193                 remove = []
1194
1195                 # handle removals
1196                 if node.has_key(propname):
1197                     l = node[propname]
1198                 else:
1199                     l = []
1200                 for id in l[:]:
1201                     if id in value:
1202                         continue
1203                     # register the unlink with the old linked node
1204                     if self.do_journal and self.properties[propname].do_journal:
1205                         self.db.addjournal(link_class, id, 'unlink',
1206                             (self.classname, nodeid, propname))
1207                     l.remove(id)
1208                     remove.append(id)
1209
1210                 # handle additions
1211                 for id in value:
1212                     if not self.db.getclass(link_class).hasnode(id):
1213                         raise IndexError, '%s has no node %s'%(link_class, id)
1214                     if id in l:
1215                         continue
1216                     # register the link with the newly linked node
1217                     if self.do_journal and self.properties[propname].do_journal:
1218                         self.db.addjournal(link_class, id, 'link',
1219                             (self.classname, nodeid, propname))
1220                     l.append(id)
1221                     add.append(id)
1222
1223                 # figure the journal entry
1224                 l = []
1225                 if add:
1226                     l.append(('+', add))
1227                 if remove:
1228                     l.append(('-', remove))
1229                 multilink_changes[propname] = (add, remove)
1230                 if l:
1231                     journalvalues[propname] = tuple(l)
1232
1233             elif isinstance(prop, String):
1234                 if value is not None and type(value) != type(''):
1235                     raise TypeError, 'new property "%s" not a string'%propname
1236
1237             elif isinstance(prop, Password):
1238                 if not isinstance(value, password.Password):
1239                     raise TypeError, 'new property "%s" not a Password'%propname
1240                 propvalues[propname] = value
1241
1242             elif value is not None and isinstance(prop, Date):
1243                 if not isinstance(value, date.Date):
1244                     raise TypeError, 'new property "%s" not a Date'% propname
1245                 propvalues[propname] = value
1246
1247             elif value is not None and isinstance(prop, Interval):
1248                 if not isinstance(value, date.Interval):
1249                     raise TypeError, 'new property "%s" not an '\
1250                         'Interval'%propname
1251                 propvalues[propname] = value
1252
1253             elif value is not None and isinstance(prop, Number):
1254                 try:
1255                     float(value)
1256                 except ValueError:
1257                     raise TypeError, 'new property "%s" not numeric'%propname
1258
1259             elif value is not None and isinstance(prop, Boolean):
1260                 try:
1261                     int(value)
1262                 except ValueError:
1263                     raise TypeError, 'new property "%s" not boolean'%propname
1264
1265             node[propname] = value
1266
1267         # nothing to do?
1268         if not propvalues:
1269             return propvalues
1270
1271         # do the set, and journal it
1272         self.db.setnode(self.classname, nodeid, node, multilink_changes)
1273
1274         if self.do_journal:
1275             propvalues.update(journalvalues)
1276             self.db.addjournal(self.classname, nodeid, 'set', propvalues)
1277
1278         self.fireReactors('set', nodeid, oldvalues)
1279
1280         return propvalues
1281
1282     def retire(self, nodeid):
1283         '''Retire a node.
1284
1285         The properties on the node remain available from the get() method,
1286         and the node's id is never reused.
1287
1288         Retired nodes are not returned by the find(), list(), or lookup()
1289         methods, and other nodes may reuse the values of their key properties.
1290         '''
1291         if self.db.journaltag is None:
1292             raise DatabaseError, 'Database open read-only'
1293
1294         cursor = self.db.conn.cursor()
1295         sql = 'update _%s set __retired__=1 where id=?'%self.classname
1296         if __debug__:
1297             print >>hyperdb.DEBUG, 'retire', (self, sql, nodeid)
1298         cursor.execute(sql, (nodeid,))
1299
1300     def is_retired(self, nodeid):
1301         '''Return true if the node is rerired
1302         '''
1303         cursor = self.db.conn.cursor()
1304         sql = 'select __retired__ from _%s where id=?'%self.classname
1305         if __debug__:
1306             print >>hyperdb.DEBUG, 'is_retired', (self, sql, nodeid)
1307         cursor.execute(sql, (nodeid,))
1308         return cursor.fetchone()[0]
1309
1310     def destroy(self, nodeid):
1311         '''Destroy a node.
1312
1313         WARNING: this method should never be used except in extremely rare
1314                  situations where there could never be links to the node being
1315                  deleted
1316         WARNING: use retire() instead
1317         WARNING: the properties of this node will not be available ever again
1318         WARNING: really, use retire() instead
1319
1320         Well, I think that's enough warnings. This method exists mostly to
1321         support the session storage of the cgi interface.
1322
1323         The node is completely removed from the hyperdb, including all journal
1324         entries. It will no longer be available, and will generally break code
1325         if there are any references to the node.
1326         '''
1327         if self.db.journaltag is None:
1328             raise DatabaseError, 'Database open read-only'
1329         self.db.destroynode(self.classname, nodeid)
1330
1331     def history(self, nodeid):
1332         '''Retrieve the journal of edits on a particular node.
1333
1334         'nodeid' must be the id of an existing node of this class or an
1335         IndexError is raised.
1336
1337         The returned list contains tuples of the form
1338
1339             (date, tag, action, params)
1340
1341         'date' is a Timestamp object specifying the time of the change and
1342         'tag' is the journaltag specified when the database was opened.
1343         '''
1344         if not self.do_journal:
1345             raise ValueError, 'Journalling is disabled for this class'
1346         return self.db.getjournal(self.classname, nodeid)
1347
1348     # Locating nodes:
1349     def hasnode(self, nodeid):
1350         '''Determine if the given nodeid actually exists
1351         '''
1352         return self.db.hasnode(self.classname, nodeid)
1353
1354     def setkey(self, propname):
1355         '''Select a String property of this class to be the key property.
1356
1357         'propname' must be the name of a String property of this class or
1358         None, or a TypeError is raised.  The values of the key property on
1359         all existing nodes must be unique or a ValueError is raised.
1360         '''
1361         # XXX create an index on the key prop column
1362         prop = self.getprops()[propname]
1363         if not isinstance(prop, String):
1364             raise TypeError, 'key properties must be String'
1365         self.key = propname
1366
1367     def getkey(self):
1368         '''Return the name of the key property for this class or None.'''
1369         return self.key
1370
1371     def labelprop(self, default_to_id=0):
1372         ''' Return the property name for a label for the given node.
1373
1374         This method attempts to generate a consistent label for the node.
1375         It tries the following in order:
1376             1. key property
1377             2. "name" property
1378             3. "title" property
1379             4. first property from the sorted property name list
1380         '''
1381         k = self.getkey()
1382         if  k:
1383             return k
1384         props = self.getprops()
1385         if props.has_key('name'):
1386             return 'name'
1387         elif props.has_key('title'):
1388             return 'title'
1389         if default_to_id:
1390             return 'id'
1391         props = props.keys()
1392         props.sort()
1393         return props[0]
1394
1395     def lookup(self, keyvalue):
1396         '''Locate a particular node by its key property and return its id.
1397
1398         If this class has no key property, a TypeError is raised.  If the
1399         'keyvalue' matches one of the values for the key property among
1400         the nodes in this class, the matching node's id is returned;
1401         otherwise a KeyError is raised.
1402         '''
1403         if not self.key:
1404             raise TypeError, 'No key property set'
1405
1406         cursor = self.db.conn.cursor()
1407         sql = 'select id from _%s where _%s=?'%(self.classname, self.key)
1408         if __debug__:
1409             print >>hyperdb.DEBUG, 'lookup', (self, sql, keyvalue)
1410         cursor.execute(sql, (keyvalue,))
1411
1412         # see if there was a result
1413         l = cursor.fetchall()
1414         if not l:
1415             raise KeyError, keyvalue
1416
1417         # return the id
1418         return l[0][0]
1419
1420     def find(self, **propspec):
1421         '''Get the ids of nodes in this class which link to the given nodes.
1422
1423         'propspec' consists of keyword args propname={nodeid:1,}
1424         'propname' must be the name of a property in this class, or a
1425         KeyError is raised.  That property must be a Link or Multilink
1426         property, or a TypeError is raised.
1427
1428         Any node in this class whose 'propname' property links to any of the
1429         nodeids will be returned. Used by the full text indexing, which knows
1430         that "foo" occurs in msg1, msg3 and file7, so we have hits on these
1431         issues:
1432
1433             db.issue.find(messages={'1':1,'3':1}, files={'7':1})
1434         '''
1435         if __debug__:
1436             print >>hyperdb.DEBUG, 'find', (self, propspec)
1437         if not propspec:
1438             return []
1439         queries = []
1440         tables = []
1441         allvalues = ()
1442         for prop, values in propspec.items():
1443             allvalues += tuple(values.keys())
1444             tables.append('select nodeid from %s_%s where linkid in (%s)'%(
1445                 self.classname, prop, ','.join(['?' for x in values.keys()])))
1446         sql = '\nintersect\n'.join(tables)
1447         if __debug__:
1448             print >>hyperdb.DEBUG, 'find', (self, sql, allvalues)
1449         cursor = self.db.conn.cursor()
1450         cursor.execute(sql, allvalues)
1451         try:
1452             l = [x[0] for x in cursor.fetchall()]
1453         except gadfly.database.error, message:
1454             if message == 'no more results':
1455                 l = []
1456             raise
1457         if __debug__:
1458             print >>hyperdb.DEBUG, 'find ... ', l
1459         return l
1460
1461     def list(self):
1462         ''' Return a list of the ids of the active nodes in this class.
1463         '''
1464         return self.db.getnodeids(self.classname, retired=0)
1465
1466     def filter(self, search_matches, filterspec, sort, group):
1467         ''' Return a list of the ids of the active nodes in this class that
1468             match the 'filter' spec, sorted by the group spec and then the
1469             sort spec
1470
1471             "filterspec" is {propname: value(s)}
1472             "sort" and "group" are (dir, prop) where dir is '+', '-' or None
1473                                and prop is a prop name or None
1474             "search_matches" is {nodeid: marker}
1475         '''
1476         cn = self.classname
1477
1478         # figure the WHERE clause from the filterspec
1479         props = self.getprops()
1480         frum = ['_'+cn]
1481         where = []
1482         args = []
1483         for k, v in filterspec.items():
1484             propclass = props[k]
1485             if isinstance(propclass, Multilink):
1486                 tn = '%s_%s'%(cn, k)
1487                 frum.append(tn)
1488                 if isinstance(v, type([])):
1489                     s = ','.join(['?' for x in v])
1490                     where.append('id=%s.nodeid and %s.linkid in (%s)'%(tn,tn,s))
1491                     args = args + v
1492                 else:
1493                     where.append('id=%s.nodeid and %s.linkid = ?'%(tn, tn))
1494                     args.append(v)
1495             else:
1496                 if isinstance(v, type([])):
1497                     s = ','.join(['?' for x in v])
1498                     where.append('_%s in (%s)'%(k, s))
1499                     args = args + v
1500                 else:
1501                     where.append('_%s=?'%k)
1502                     args.append(v)
1503
1504         # add results of full text search
1505         if search_matches is not None:
1506             v = search_matches.keys()
1507             s = ','.join(['?' for x in v])
1508             where.append('id in (%s)'%s)
1509             args = args + v
1510
1511         # figure the order by clause
1512         orderby = []
1513         ordercols = []
1514         if sort is not None:
1515             if sort[0] != '-':
1516                 orderby.append('_'+sort[1])
1517                 ordercols.append(sort[1])
1518             else:
1519                 orderby.append('_'+sort[1]+' desc')
1520                 ordercols.append(sort[1])
1521
1522         # figure the group by clause
1523         groupby = []
1524         groupcols = []
1525         if group is not None:
1526             if group[0] != '-':
1527                 groupby.append('_'+group[1])
1528                 groupcols.append(group[1])
1529             else:
1530                 groupby.append('_'+group[1]+' desc')
1531                 groupcols.append(group[1])
1532
1533         # construct the SQL
1534         frum = ','.join(frum)
1535         where = ' and '.join(where)
1536         cols = ['id']
1537         if orderby:
1538             cols = cols + ordercols
1539             order = ' order by %s'%(','.join(orderby))
1540         else:
1541             order = ''
1542         if groupby:
1543             cols = cols + groupcols
1544             group = ' group by %s'%(','.join(groupby))
1545         else:
1546             group = ''
1547         cols = ','.join(cols)
1548         sql = 'select %s from %s where %s%s%s'%(cols, frum, where, order,
1549             group)
1550         args = tuple(args)
1551         if __debug__:
1552             print >>hyperdb.DEBUG, 'find', (self, sql, args)
1553         cursor = self.db.conn.cursor()
1554         cursor.execute(sql, args)
1555
1556     def count(self):
1557         '''Get the number of nodes in this class.
1558
1559         If the returned integer is 'numnodes', the ids of all the nodes
1560         in this class run from 1 to numnodes, and numnodes+1 will be the
1561         id of the next node to be created in this class.
1562         '''
1563         return self.db.countnodes(self.classname)
1564
1565     # Manipulating properties:
1566     def getprops(self, protected=1):
1567         '''Return a dictionary mapping property names to property objects.
1568            If the "protected" flag is true, we include protected properties -
1569            those which may not be modified.
1570         '''
1571         d = self.properties.copy()
1572         if protected:
1573             d['id'] = String()
1574             d['creation'] = hyperdb.Date()
1575             d['activity'] = hyperdb.Date()
1576             d['creator'] = hyperdb.Link("user")
1577         return d
1578
1579     def addprop(self, **properties):
1580         '''Add properties to this class.
1581
1582         The keyword arguments in 'properties' must map names to property
1583         objects, or a TypeError is raised.  None of the keys in 'properties'
1584         may collide with the names of existing properties, or a ValueError
1585         is raised before any properties have been added.
1586         '''
1587         for key in properties.keys():
1588             if self.properties.has_key(key):
1589                 raise ValueError, key
1590         self.properties.update(properties)
1591
1592     def index(self, nodeid):
1593         '''Add (or refresh) the node to search indexes
1594         '''
1595         # find all the String properties that have indexme
1596         for prop, propclass in self.getprops().items():
1597             if isinstance(propclass, String) and propclass.indexme:
1598                 try:
1599                     value = str(self.get(nodeid, prop))
1600                 except IndexError:
1601                     # node no longer exists - entry should be removed
1602                     self.db.indexer.purge_entry((self.classname, nodeid, prop))
1603                 else:
1604                     # and index them under (classname, nodeid, property)
1605                     self.db.indexer.add_text((self.classname, nodeid, prop),
1606                         value)
1607
1608
1609     #
1610     # Detector interface
1611     #
1612     def audit(self, event, detector):
1613         '''Register a detector
1614         '''
1615         l = self.auditors[event]
1616         if detector not in l:
1617             self.auditors[event].append(detector)
1618
1619     def fireAuditors(self, action, nodeid, newvalues):
1620         '''Fire all registered auditors.
1621         '''
1622         for audit in self.auditors[action]:
1623             audit(self.db, self, nodeid, newvalues)
1624
1625     def react(self, event, detector):
1626         '''Register a detector
1627         '''
1628         l = self.reactors[event]
1629         if detector not in l:
1630             self.reactors[event].append(detector)
1631
1632     def fireReactors(self, action, nodeid, oldvalues):
1633         '''Fire all registered reactors.
1634         '''
1635         for react in self.reactors[action]:
1636             react(self.db, self, nodeid, oldvalues)
1637
1638 class FileClass(Class):
1639     '''This class defines a large chunk of data. To support this, it has a
1640        mandatory String property "content" which is typically saved off
1641        externally to the hyperdb.
1642
1643        The default MIME type of this data is defined by the
1644        "default_mime_type" class attribute, which may be overridden by each
1645        node if the class defines a "type" String property.
1646     '''
1647     default_mime_type = 'text/plain'
1648
1649     def create(self, **propvalues):
1650         ''' snaffle the file propvalue and store in a file
1651         '''
1652         content = propvalues['content']
1653         del propvalues['content']
1654         newid = Class.create(self, **propvalues)
1655         self.db.storefile(self.classname, newid, None, content)
1656         return newid
1657
1658     def import_list(self, propnames, proplist):
1659         ''' Trap the "content" property...
1660         '''
1661         # dupe this list so we don't affect others
1662         propnames = propnames[:]
1663
1664         # extract the "content" property from the proplist
1665         i = propnames.index('content')
1666         content = proplist[i]
1667         del propnames[i]
1668         del proplist[i]
1669
1670         # do the normal import
1671         newid = Class.import_list(self, propnames, proplist)
1672
1673         # save off the "content" file
1674         self.db.storefile(self.classname, newid, None, content)
1675         return newid
1676
1677     _marker = []
1678     def get(self, nodeid, propname, default=_marker, cache=1):
1679         ''' trap the content propname and get it from the file
1680         '''
1681
1682         poss_msg = 'Possibly a access right configuration problem.'
1683         if propname == 'content':
1684             try:
1685                 return self.db.getfile(self.classname, nodeid, None)
1686             except IOError, (strerror):
1687                 # BUG: by catching this we donot see an error in the log.
1688                 return 'ERROR reading file: %s%s\n%s\n%s'%(
1689                         self.classname, nodeid, poss_msg, strerror)
1690         if default is not self._marker:
1691             return Class.get(self, nodeid, propname, default, cache=cache)
1692         else:
1693             return Class.get(self, nodeid, propname, cache=cache)
1694
1695     def getprops(self, protected=1):
1696         ''' In addition to the actual properties on the node, these methods
1697             provide the "content" property. If the "protected" flag is true,
1698             we include protected properties - those which may not be
1699             modified.
1700         '''
1701         d = Class.getprops(self, protected=protected).copy()
1702         if protected:
1703             d['content'] = hyperdb.String()
1704         return d
1705
1706     def index(self, nodeid):
1707         ''' Index the node in the search index.
1708
1709             We want to index the content in addition to the normal String
1710             property indexing.
1711         '''
1712         # perform normal indexing
1713         Class.index(self, nodeid)
1714
1715         # get the content to index
1716         content = self.get(nodeid, 'content')
1717
1718         # figure the mime type
1719         if self.properties.has_key('type'):
1720             mime_type = self.get(nodeid, 'type')
1721         else:
1722             mime_type = self.default_mime_type
1723
1724         # and index!
1725         self.db.indexer.add_text((self.classname, nodeid, 'content'), content,
1726             mime_type)
1727
1728 # XXX deviation from spec - was called ItemClass
1729 class IssueClass(Class, roundupdb.IssueClass):
1730     # Overridden methods:
1731     def __init__(self, db, classname, **properties):
1732         '''The newly-created class automatically includes the "messages",
1733         "files", "nosy", and "superseder" properties.  If the 'properties'
1734         dictionary attempts to specify any of these properties or a
1735         "creation" or "activity" property, a ValueError is raised.
1736         '''
1737         if not properties.has_key('title'):
1738             properties['title'] = hyperdb.String(indexme='yes')
1739         if not properties.has_key('messages'):
1740             properties['messages'] = hyperdb.Multilink("msg")
1741         if not properties.has_key('files'):
1742             properties['files'] = hyperdb.Multilink("file")
1743         if not properties.has_key('nosy'):
1744             # note: journalling is turned off as it really just wastes
1745             # space. this behaviour may be overridden in an instance
1746             properties['nosy'] = hyperdb.Multilink("user", do_journal="no")
1747         if not properties.has_key('superseder'):
1748             properties['superseder'] = hyperdb.Multilink(classname)
1749         Class.__init__(self, db, classname, **properties)
1750
1751 #
1752 # $Log: not supported by cvs2svn $
1753 # Revision 1.6  2002/08/30 08:35:16  richard
1754 # very basic filter support
1755 #
1756 # Revision 1.5  2002/08/23 05:33:32  richard
1757 # implemented multilink changes (and a unit test)
1758 #
1759 # Revision 1.4  2002/08/23 05:00:38  richard
1760 # fixed read-only gadfly retire()
1761 #
1762 # Revision 1.3  2002/08/23 04:58:00  richard
1763 # ahhh, I understand now
1764 #
1765 # Revision 1.2  2002/08/23 04:48:10  richard
1766 # That's gadfly done, mostly. Things left:
1767 # - Class.filter (I'm a wuss ;)
1768 # - schema changes adding new non-multilink properties are not implemented.
1769 #   gadfly doesn't have an ALTER TABLE command, making that quite difficult :)
1770 #
1771 # I had to mangle two unit tests to get this all working:
1772 # - gadfly also can't handle two handles open on the one database, so
1773 #   testIDGeneration doesn't try that.
1774 # - testNewProperty is disabled as per the second comment above.
1775 #
1776 # I noticed test_pack was incorrect, and the *dbm tests fail there now.
1777 # Looking into it...
1778 #
1779 # Revision 1.1  2002/08/22 07:56:51  richard
1780 # Whee! It's not finished yet, but I can create a new instance and play with
1781 # it a little bit :)
1782 #
1783 # Revision 1.80  2002/08/16 04:28:13  richard
1784 # added is_retired query to Class
1785 #
1786 # Revision 1.79  2002/07/29 23:30:14  richard
1787 # documentation reorg post-new-security
1788 #
1789 # Revision 1.78  2002/07/21 03:26:37  richard
1790 # Gordon, does this help?
1791 #
1792 # Revision 1.77  2002/07/18 11:27:47  richard
1793 # ws
1794 #
1795 # Revision 1.76  2002/07/18 11:17:30  gmcm
1796 # Add Number and Boolean types to hyperdb.
1797 # Add conversion cases to web, mail & admin interfaces.
1798 # Add storage/serialization cases to back_anydbm & back_metakit.
1799 #
1800 # Revision 1.75  2002/07/14 02:05:53  richard
1801 # . all storage-specific code (ie. backend) is now implemented by the backends
1802 #
1803 # Revision 1.74  2002/07/10 00:24:10  richard
1804 # braino
1805 #
1806 # Revision 1.73  2002/07/10 00:19:48  richard
1807 # Added explicit closing of backend database handles.
1808 #
1809 # Revision 1.72  2002/07/09 21:53:38  gmcm
1810 # Optimize Class.find so that the propspec can contain a set of ids to match.
1811 # This is used by indexer.search so it can do just one find for all the index matches.
1812 # This was already confusing code, but for common terms (lots of index matches),
1813 # it is enormously faster.
1814 #
1815 # Revision 1.71  2002/07/09 03:02:52  richard
1816 # More indexer work:
1817 # - all String properties may now be indexed too. Currently there's a bit of
1818 #   "issue" specific code in the actual searching which needs to be
1819 #   addressed. In a nutshell:
1820 #   + pass 'indexme="yes"' as a String() property initialisation arg, eg:
1821 #         file = FileClass(db, "file", name=String(), type=String(),
1822 #             comment=String(indexme="yes"))
1823 #   + the comment will then be indexed and be searchable, with the results
1824 #     related back to the issue that the file is linked to
1825 # - as a result of this work, the FileClass has a default MIME type that may
1826 #   be overridden in a subclass, or by the use of a "type" property as is
1827 #   done in the default templates.
1828 # - the regeneration of the indexes (if necessary) is done once the schema is
1829 #   set up in the dbinit.
1830 #
1831 # Revision 1.70  2002/06/27 12:06:20  gmcm
1832 # Improve an error message.
1833 #
1834 # Revision 1.69  2002/06/17 23:15:29  richard
1835 # Can debug to stdout now
1836 #
1837 # Revision 1.68  2002/06/11 06:52:03  richard
1838 #  . #564271 ] find() and new properties
1839 #
1840 # Revision 1.67  2002/06/11 05:02:37  richard
1841 #  . #565979 ] code error in hyperdb.Class.find
1842 #
1843 # Revision 1.66  2002/05/25 07:16:24  rochecompaan
1844 # Merged search_indexing-branch with HEAD
1845 #
1846 # Revision 1.65  2002/05/22 04:12:05  richard
1847 #  . applied patch #558876 ] cgi client customization
1848 #    ... with significant additions and modifications ;)
1849 #    - extended handling of ML assignedto to all places it's handled
1850 #    - added more NotFound info
1851 #
1852 # Revision 1.64  2002/05/15 06:21:21  richard
1853 #  . node caching now works, and gives a small boost in performance
1854 #
1855 # As a part of this, I cleaned up the DEBUG output and implemented TRACE
1856 # output (HYPERDBTRACE='file to trace to') with checkpoints at the start of
1857 # CGI requests. Run roundup with python -O to skip all the DEBUG/TRACE stuff
1858 # (using if __debug__ which is compiled out with -O)
1859 #
1860 # Revision 1.63  2002/04/15 23:25:15  richard
1861 # . node ids are now generated from a lockable store - no more race conditions
1862 #
1863 # We're using the portalocker code by Jonathan Feinberg that was contributed
1864 # to the ASPN Python cookbook. This gives us locking across Unix and Windows.
1865 #
1866 # Revision 1.62  2002/04/03 07:05:50  richard
1867 # d'oh! killed retirement of nodes :(
1868 # all better now...
1869 #
1870 # Revision 1.61  2002/04/03 06:11:51  richard
1871 # Fix for old databases that contain properties that don't exist any more.
1872 #
1873 # Revision 1.60  2002/04/03 05:54:31  richard
1874 # Fixed serialisation problem by moving the serialisation step out of the
1875 # hyperdb.Class (get, set) into the hyperdb.Database.
1876 #
1877 # Also fixed htmltemplate after the showid changes I made yesterday.
1878 #
1879 # Unit tests for all of the above written.
1880 #
1881 # Revision 1.59.2.2  2002/04/20 13:23:33  rochecompaan
1882 # We now have a separate search page for nodes.  Search links for
1883 # different classes can be customized in instance_config similar to
1884 # index links.
1885 #
1886 # Revision 1.59.2.1  2002/04/19 19:54:42  rochecompaan
1887 # cgi_client.py
1888 #     removed search link for the time being
1889 #     moved rendering of matches to htmltemplate
1890 # hyperdb.py
1891 #     filtering of nodes on full text search incorporated in filter method
1892 # roundupdb.py
1893 #     added paramater to call of filter method
1894 # roundup_indexer.py
1895 #     added search method to RoundupIndexer class
1896 #
1897 # Revision 1.59  2002/03/12 22:52:26  richard
1898 # more pychecker warnings removed
1899 #
1900 # Revision 1.58  2002/02/27 03:23:16  richard
1901 # Ran it through pychecker, made fixes
1902 #
1903 # Revision 1.57  2002/02/20 05:23:24  richard
1904 # Didn't accomodate new values for new properties
1905 #
1906 # Revision 1.56  2002/02/20 05:05:28  richard
1907 #  . Added simple editing for classes that don't define a templated interface.
1908 #    - access using the admin "class list" interface
1909 #    - limited to admin-only
1910 #    - requires the csv module from object-craft (url given if it's missing)
1911 #
1912 # Revision 1.55  2002/02/15 07:27:12  richard
1913 # Oops, precedences around the way w0rng.
1914 #
1915 # Revision 1.54  2002/02/15 07:08:44  richard
1916 #  . Alternate email addresses are now available for users. See the MIGRATION
1917 #    file for info on how to activate the feature.
1918 #
1919 # Revision 1.53  2002/01/22 07:21:13  richard
1920 # . fixed back_bsddb so it passed the journal tests
1921 #
1922 # ... it didn't seem happy using the back_anydbm _open method, which is odd.
1923 # Yet another occurrance of whichdb not being able to recognise older bsddb
1924 # databases. Yadda yadda. Made the HYPERDBDEBUG stuff more sane in the
1925 # process.
1926 #
1927 # Revision 1.52  2002/01/21 16:33:19  rochecompaan
1928 # You can now use the roundup-admin tool to pack the database
1929 #
1930 # Revision 1.51  2002/01/21 03:01:29  richard
1931 # brief docco on the do_journal argument
1932 #
1933 # Revision 1.50  2002/01/19 13:16:04  rochecompaan
1934 # Journal entries for link and multilink properties can now be switched on
1935 # or off.
1936 #
1937 # Revision 1.49  2002/01/16 07:02:57  richard
1938 #  . lots of date/interval related changes:
1939 #    - more relaxed date format for input
1940 #
1941 # Revision 1.48  2002/01/14 06:32:34  richard
1942 #  . #502951 ] adding new properties to old database
1943 #
1944 # Revision 1.47  2002/01/14 02:20:15  richard
1945 #  . changed all config accesses so they access either the instance or the
1946 #    config attriubute on the db. This means that all config is obtained from
1947 #    instance_config instead of the mish-mash of classes. This will make
1948 #    switching to a ConfigParser setup easier too, I hope.
1949 #
1950 # At a minimum, this makes migration a _little_ easier (a lot easier in the
1951 # 0.5.0 switch, I hope!)
1952 #
1953 # Revision 1.46  2002/01/07 10:42:23  richard
1954 # oops
1955 #
1956 # Revision 1.45  2002/01/02 04:18:17  richard
1957 # hyperdb docstrings
1958 #
1959 # Revision 1.44  2002/01/02 02:31:38  richard
1960 # Sorry for the huge checkin message - I was only intending to implement #496356
1961 # but I found a number of places where things had been broken by transactions:
1962 #  . modified ROUNDUPDBSENDMAILDEBUG to be SENDMAILDEBUG and hold a filename
1963 #    for _all_ roundup-generated smtp messages to be sent to.
1964 #  . the transaction cache had broken the roundupdb.Class set() reactors
1965 #  . newly-created author users in the mailgw weren't being committed to the db
1966 #
1967 # Stuff that made it into CHANGES.txt (ie. the stuff I was actually working
1968 # on when I found that stuff :):
1969 #  . #496356 ] Use threading in messages
1970 #  . detectors were being registered multiple times
1971 #  . added tests for mailgw
1972 #  . much better attaching of erroneous messages in the mail gateway
1973 #
1974 # Revision 1.43  2001/12/20 06:13:24  rochecompaan
1975 # Bugs fixed:
1976 #   . Exception handling in hyperdb for strings-that-look-like numbers got
1977 #     lost somewhere
1978 #   . Internet Explorer submits full path for filename - we now strip away
1979 #     the path
1980 # Features added:
1981 #   . Link and multilink properties are now displayed sorted in the cgi
1982 #     interface
1983 #
1984 # Revision 1.42  2001/12/16 10:53:37  richard
1985 # take a copy of the node dict so that the subsequent set
1986 # operation doesn't modify the oldvalues structure
1987 #
1988 # Revision 1.41  2001/12/15 23:47:47  richard
1989 # Cleaned up some bare except statements
1990 #
1991 # Revision 1.40  2001/12/14 23:42:57  richard
1992 # yuck, a gdbm instance tests false :(
1993 # I've left the debugging code in - it should be removed one day if we're ever
1994 # _really_ anal about performace :)
1995 #
1996 # Revision 1.39  2001/12/02 05:06:16  richard
1997 # . We now use weakrefs in the Classes to keep the database reference, so
1998 #   the close() method on the database is no longer needed.
1999 #   I bumped the minimum python requirement up to 2.1 accordingly.
2000 # . #487480 ] roundup-server
2001 # . #487476 ] INSTALL.txt
2002 #
2003 # I also cleaned up the change message / post-edit stuff in the cgi client.
2004 # There's now a clearly marked "TODO: append the change note" where I believe
2005 # the change note should be added there. The "changes" list will obviously
2006 # have to be modified to be a dict of the changes, or somesuch.
2007 #
2008 # More testing needed.
2009 #
2010 # Revision 1.38  2001/12/01 07:17:50  richard
2011 # . We now have basic transaction support! Information is only written to
2012 #   the database when the commit() method is called. Only the anydbm
2013 #   backend is modified in this way - neither of the bsddb backends have been.
2014 #   The mail, admin and cgi interfaces all use commit (except the admin tool
2015 #   doesn't have a commit command, so interactive users can't commit...)
2016 # . Fixed login/registration forwarding the user to the right page (or not,
2017 #   on a failure)
2018 #
2019 # Revision 1.37  2001/11/28 21:55:35  richard
2020 #  . login_action and newuser_action return values were being ignored
2021 #  . Woohoo! Found that bloody re-login bug that was killing the mail
2022 #    gateway.
2023 #  (also a minor cleanup in hyperdb)
2024 #
2025 # Revision 1.36  2001/11/27 03:16:09  richard
2026 # Another place that wasn't handling missing properties.
2027 #
2028 # Revision 1.35  2001/11/22 15:46:42  jhermann
2029 # Added module docstrings to all modules.
2030 #
2031 # Revision 1.34  2001/11/21 04:04:43  richard
2032 # *sigh* more missing value handling
2033 #
2034 # Revision 1.33  2001/11/21 03:40:54  richard
2035 # more new property handling
2036 #
2037 # Revision 1.32  2001/11/21 03:11:28  richard
2038 # Better handling of new properties.
2039 #
2040 # Revision 1.31  2001/11/12 22:01:06  richard
2041 # Fixed issues with nosy reaction and author copies.
2042 #
2043 # Revision 1.30  2001/11/09 10:11:08  richard
2044 #  . roundup-admin now handles all hyperdb exceptions
2045 #
2046 # Revision 1.29  2001/10/27 00:17:41  richard
2047 # Made Class.stringFind() do caseless matching.
2048 #
2049 # Revision 1.28  2001/10/21 04:44:50  richard
2050 # bug #473124: UI inconsistency with Link fields.
2051 #    This also prompted me to fix a fairly long-standing usability issue -
2052 #    that of being able to turn off certain filters.
2053 #
2054 # Revision 1.27  2001/10/20 23:44:27  richard
2055 # Hyperdatabase sorts strings-that-look-like-numbers as numbers now.
2056 #
2057 # Revision 1.26  2001/10/16 03:48:01  richard
2058 # admin tool now complains if a "find" is attempted with a non-link property.
2059 #
2060 # Revision 1.25  2001/10/11 00:17:51  richard
2061 # Reverted a change in hyperdb so the default value for missing property
2062 # values in a create() is None and not '' (the empty string.) This obviously
2063 # breaks CSV import/export - the string 'None' will be created in an
2064 # export/import operation.
2065 #
2066 # Revision 1.24  2001/10/10 03:54:57  richard
2067 # Added database importing and exporting through CSV files.
2068 # Uses the csv module from object-craft for exporting if it's available.
2069 # Requires the csv module for importing.
2070 #
2071 # Revision 1.23  2001/10/09 23:58:10  richard
2072 # Moved the data stringification up into the hyperdb.Class class' get, set
2073 # and create methods. This means that the data is also stringified for the
2074 # journal call, and removes duplication of code from the backends. The
2075 # backend code now only sees strings.
2076 #
2077 # Revision 1.22  2001/10/09 07:25:59  richard
2078 # Added the Password property type. See "pydoc roundup.password" for
2079 # implementation details. Have updated some of the documentation too.
2080 #
2081 # Revision 1.21  2001/10/05 02:23:24  richard
2082 #  . roundup-admin create now prompts for property info if none is supplied
2083 #    on the command-line.
2084 #  . hyperdb Class getprops() method may now return only the mutable
2085 #    properties.
2086 #  . Login now uses cookies, which makes it a whole lot more flexible. We can
2087 #    now support anonymous user access (read-only, unless there's an
2088 #    "anonymous" user, in which case write access is permitted). Login
2089 #    handling has been moved into cgi_client.Client.main()
2090 #  . The "extended" schema is now the default in roundup init.
2091 #  . The schemas have had their page headings modified to cope with the new
2092 #    login handling. Existing installations should copy the interfaces.py
2093 #    file from the roundup lib directory to their instance home.
2094 #  . Incorrectly had a Bizar Software copyright on the cgitb.py module from
2095 #    Ping - has been removed.
2096 #  . Fixed a whole bunch of places in the CGI interface where we should have
2097 #    been returning Not Found instead of throwing an exception.
2098 #  . Fixed a deviation from the spec: trying to modify the 'id' property of
2099 #    an item now throws an exception.
2100 #
2101 # Revision 1.20  2001/10/04 02:12:42  richard
2102 # Added nicer command-line item adding: passing no arguments will enter an
2103 # interactive more which asks for each property in turn. While I was at it, I
2104 # fixed an implementation problem WRT the spec - I wasn't raising a
2105 # ValueError if the key property was missing from a create(). Also added a
2106 # protected=boolean argument to getprops() so we can list only the mutable
2107 # properties (defaults to yes, which lists the immutables).
2108 #
2109 # Revision 1.19  2001/08/29 04:47:18  richard
2110 # Fixed CGI client change messages so they actually include the properties
2111 # changed (again).
2112 #
2113 # Revision 1.18  2001/08/16 07:34:59  richard
2114 # better CGI text searching - but hidden filter fields are disappearing...
2115 #
2116 # Revision 1.17  2001/08/16 06:59:58  richard
2117 # all searches use re now - and they're all case insensitive
2118 #
2119 # Revision 1.16  2001/08/15 23:43:18  richard
2120 # Fixed some isFooTypes that I missed.
2121 # Refactored some code in the CGI code.
2122 #
2123 # Revision 1.15  2001/08/12 06:32:36  richard
2124 # using isinstance(blah, Foo) now instead of isFooType
2125 #
2126 # Revision 1.14  2001/08/07 00:24:42  richard
2127 # stupid typo
2128 #
2129 # Revision 1.13  2001/08/07 00:15:51  richard
2130 # Added the copyright/license notice to (nearly) all files at request of
2131 # Bizar Software.
2132 #
2133 # Revision 1.12  2001/08/02 06:38:17  richard
2134 # Roundupdb now appends "mailing list" information to its messages which
2135 # include the e-mail address and web interface address. Templates may
2136 # override this in their db classes to include specific information (support
2137 # instructions, etc).
2138 #
2139 # Revision 1.11  2001/08/01 04:24:21  richard
2140 # mailgw was assuming certain properties existed on the issues being created.
2141 #
2142 # Revision 1.10  2001/07/30 02:38:31  richard
2143 # get() now has a default arg - for migration only.
2144 #
2145 # Revision 1.9  2001/07/29 09:28:23  richard
2146 # Fixed sorting by clicking on column headings.
2147 #
2148 # Revision 1.8  2001/07/29 08:27:40  richard
2149 # Fixed handling of passed-in values in form elements (ie. during a
2150 # drill-down)
2151 #
2152 # Revision 1.7  2001/07/29 07:01:39  richard
2153 # Added vim command to all source so that we don't get no steenkin' tabs :)
2154 #
2155 # Revision 1.6  2001/07/29 05:36:14  richard
2156 # Cleanup of the link label generation.
2157 #
2158 # Revision 1.5  2001/07/29 04:05:37  richard
2159 # Added the fabricated property "id".
2160 #
2161 # Revision 1.4  2001/07/27 06:25:35  richard
2162 # Fixed some of the exceptions so they're the right type.
2163 # Removed the str()-ification of node ids so we don't mask oopsy errors any
2164 # more.
2165 #
2166 # Revision 1.3  2001/07/27 05:17:14  richard
2167 # just some comments
2168 #
2169 # Revision 1.2  2001/07/22 12:09:32  richard
2170 # Final commit of Grande Splite
2171 #
2172 # Revision 1.1  2001/07/22 11:58:35  richard
2173 # More Grande Splite
2174 #
2175 #
2176 # vim: set filetype=python ts=4 sw=4 et si