roundup/backends/back_gadfly.py

   1 # $Id: back_gadfly.py,v 1.8 2002-09-03 02:53:53 richard Exp $
   2 __doc__ = '''
   3 About Gadfly
   4 ============
   5
   6 Gadfly  is  a  collection  of  python modules that provides relational
   7 database  functionality  entirely implemented in Python. It supports a
   8 subset  of  the intergalactic standard RDBMS Structured Query Language
   9 SQL.
  10
  11
  12 Basic Structure
  13 ===============
  14
  15 We map roundup classes to relational tables. Automatically detect schema
  16 changes and modify the gadfly table schemas appropriately. Multilinks
  17 (which represent a many-to-many relationship) are handled through
  18 intermediate tables.
  19
  20 Journals are stored adjunct to the per-class tables.
  21
  22 Table names and columns have "_" prepended so the names can't
  23 clash with restricted names (like "order"). Retirement is determined by the
  24 __retired__ column being true.
  25
  26 All columns are defined as VARCHAR, since it really doesn't matter what
  27 type they're defined as. We stuff all kinds of data in there ;) [as long as
  28 it's marshallable, gadfly doesn't care]
  29
  30
  31 Additional Instance Requirements
  32 ================================
  33
  34 The instance configuration must specify where the database is. It does this
  35 with GADFLY_DATABASE, which is used as the arguments to the gadfly.gadfly()
  36 method:
  37
  38 Using an on-disk database directly (not a good idea):
  39   GADFLY_DATABASE = (database name, directory)
  40
  41 Using a network database (much better idea):
  42   GADFLY_DATABASE = (policy, password, address, port)
  43
  44 Because multiple accesses directly to a gadfly database aren't handled, but
  45 multiple network accesses are, it's strongly advised that the latter setup be
  46 used.
  47
  48 '''
  49
  50 # standard python modules
  51 import sys, os, time, re, errno, weakref, copy
  52
  53 # roundup modules
  54 from roundup import hyperdb, date, password, roundupdb, security
  55 from roundup.hyperdb import String, Password, Date, Interval, Link, \
  56     Multilink, DatabaseError, Boolean, Number
  57
  58 # the all-important gadfly :)
  59 import gadfly
  60 import gadfly.client
  61 import gadfly.database
  62
  63 # support
  64 from blobfiles import FileStorage
  65 from roundup.indexer import Indexer
  66 from sessions import Sessions
  67
  68 class Database(FileStorage, hyperdb.Database, roundupdb.Database):
  69     # flag to set on retired entries
  70     RETIRED_FLAG = '__hyperdb_retired'
  71
  72     def __init__(self, config, journaltag=None):
  73         ''' Open the database and load the schema from it.
  74         '''
  75         self.config, self.journaltag = config, journaltag
  76         self.dir = config.DATABASE
  77         self.classes = {}
  78         self.indexer = Indexer(self.dir)
  79         self.sessions = Sessions(self.config)
  80         self.security = security.Security(self)
  81
  82         # additional transaction support for external files and the like
  83         self.transactions = []
  84
  85         db = config.GADFLY_DATABASE
  86         if len(db) == 2:
  87             # ensure files are group readable and writable
  88             os.umask(0002)
  89             try:
  90                 self.conn = gadfly.gadfly(*db)
  91             except IOError, error:
  92                 if error.errno != errno.ENOENT:
  93                     raise
  94                 self.database_schema = {}
  95                 self.conn = gadfly.gadfly()
  96                 self.conn.startup(*db)
  97                 cursor = self.conn.cursor()
  98                 cursor.execute('create table schema (schema varchar)')
  99                 cursor.execute('create table ids (name varchar, num integer)')
 100             else:
 101                 cursor = self.conn.cursor()
 102                 cursor.execute('select schema from schema')
 103                 self.database_schema = cursor.fetchone()[0]
 104         else:
 105             self.conn = gadfly.client.gfclient(*db)
 106             cursor = self.conn.cursor()
 107             cursor.execute('select schema from schema')
 108             self.database_schema = cursor.fetchone()[0]
 109
 110     def __repr__(self):
 111         return '<radfly 0x%x>'%id(self)
 112
 113     def post_init(self):
 114         ''' Called once the schema initialisation has finished.
 115
 116             We should now confirm that the schema defined by our "classes"
 117             attribute actually matches the schema in the database.
 118         '''
 119         # now detect changes in the schema
 120         for classname, spec in self.classes.items():
 121             if self.database_schema.has_key(classname):
 122                 dbspec = self.database_schema[classname]
 123                 self.update_class(spec, dbspec)
 124                 self.database_schema[classname] = spec.schema()
 125             else:
 126                 self.create_class(spec)
 127                 self.database_schema[classname] = spec.schema()
 128
 129         for classname in self.database_schema.keys():
 130             if not self.classes.has_key(classname):
 131                 self.drop_class(classname)
 132
 133         # update the database version of the schema
 134         cursor = self.conn.cursor()
 135         cursor.execute('delete from schema')
 136         cursor.execute('insert into schema values (?)', (self.database_schema,))
 137
 138         # reindex the db if necessary
 139         if self.indexer.should_reindex():
 140             self.reindex()
 141
 142         # commit
 143         self.conn.commit()
 144
 145     def reindex(self):
 146         for klass in self.classes.values():
 147             for nodeid in klass.list():
 148                 klass.index(nodeid)
 149         self.indexer.save_index()
 150
 151     def determine_columns(self, spec):
 152         ''' Figure the column names and multilink properties from the spec
 153         '''
 154         cols = []
 155         mls = []
 156         # add the multilinks separately
 157         for col, prop in spec.properties.items():
 158             if isinstance(prop, Multilink):
 159                 mls.append(col)
 160             else:
 161                 cols.append('_'+col)
 162         cols.sort()
 163         return cols, mls
 164
 165     def update_class(self, spec, dbspec):
 166         ''' Determine the differences between the current spec and the
 167             database version of the spec, and update where necessary
 168
 169             NOTE that this doesn't work for adding/deleting properties!
 170              ... until gadfly grows an ALTER TABLE command, it's not going to!
 171         '''
 172         spec_schema = spec.schema()
 173         if spec_schema == dbspec:
 174             return
 175         if __debug__:
 176             print >>hyperdb.DEBUG, 'update_class FIRING'
 177
 178         # key property changed?
 179         if dbspec[0] != spec_schema[0]:
 180             if __debug__:
 181                 print >>hyperdb.DEBUG, 'update_class setting keyprop', `spec[0]`
 182             # XXX turn on indexing for the key property
 183
 184         # dict 'em up
 185         spec_propnames,spec_props = [],{}
 186         for propname,prop in spec_schema[1]:
 187             spec_propnames.append(propname)
 188             spec_props[propname] = prop
 189         dbspec_propnames,dbspec_props = [],{}
 190         for propname,prop in dbspec[1]:
 191             dbspec_propnames.append(propname)
 192             dbspec_props[propname] = prop
 193
 194         # we're going to need one of these
 195         cursor = self.conn.cursor()
 196
 197         # now compare
 198         for propname in spec_propnames:
 199             prop = spec_props[propname]
 200             if __debug__:
 201                 print >>hyperdb.DEBUG, 'update_class ...', `prop`
 202             if dbspec_props.has_key(propname) and prop==dbspec_props[propname]:
 203                 continue
 204             if __debug__:
 205                 print >>hyperdb.DEBUG, 'update_class', `prop`
 206
 207             if not dbspec_props.has_key(propname):
 208                 # add the property
 209                 if isinstance(prop, Multilink):
 210                     sql = 'create table %s_%s (linkid varchar, nodeid '\
 211                         'varchar)'%(spec.classname, prop)
 212                     if __debug__:
 213                         print >>hyperdb.DEBUG, 'update_class', (self, sql)
 214                     cursor.execute(sql)
 215                 else:
 216                     # XXX gadfly doesn't have an ALTER TABLE command
 217                     raise NotImplementedError
 218                     sql = 'alter table _%s add column (_%s varchar)'%(
 219                         spec.classname, propname)
 220                     if __debug__:
 221                         print >>hyperdb.DEBUG, 'update_class', (self, sql)
 222                     cursor.execute(sql)
 223             else:
 224                 # modify the property
 225                 if __debug__:
 226                     print >>hyperdb.DEBUG, 'update_class NOOP'
 227                 pass  # NOOP in gadfly
 228
 229         # and the other way - only worry about deletions here
 230         for propname in dbspec_propnames:
 231             prop = dbspec_props[propname]
 232             if spec_props.has_key(propname):
 233                 continue
 234             if __debug__:
 235                 print >>hyperdb.DEBUG, 'update_class', `prop`
 236
 237             # delete the property
 238             if isinstance(prop, Multilink):
 239                 sql = 'drop table %s_%s'%(spec.classname, prop)
 240                 if __debug__:
 241                     print >>hyperdb.DEBUG, 'update_class', (self, sql)
 242                 cursor.execute(sql)
 243             else:
 244                 # XXX gadfly doesn't have an ALTER TABLE command
 245                 raise NotImplementedError
 246                 sql = 'alter table _%s delete column _%s'%(spec.classname,
 247                     propname)
 248                 if __debug__:
 249                     print >>hyperdb.DEBUG, 'update_class', (self, sql)
 250                 cursor.execute(sql)
 251
 252     def create_class(self, spec):
 253         ''' Create a database table according to the given spec.
 254         '''
 255         cols, mls = self.determine_columns(spec)
 256
 257         # add on our special columns
 258         cols.append('id')
 259         cols.append('__retired__')
 260
 261         cursor = self.conn.cursor()
 262
 263         # create the base table
 264         cols = ','.join(['%s varchar'%x for x in cols])
 265         sql = 'create table _%s (%s)'%(spec.classname, cols)
 266         if __debug__:
 267             print >>hyperdb.DEBUG, 'create_class', (self, sql)
 268         cursor.execute(sql)
 269
 270         # journal table
 271         cols = ','.join(['%s varchar'%x
 272             for x in 'nodeid date tag action params'.split()])
 273         sql = 'create table %s__journal (%s)'%(spec.classname, cols)
 274         if __debug__:
 275             print >>hyperdb.DEBUG, 'create_class', (self, sql)
 276         cursor.execute(sql)
 277
 278         # now create the multilink tables
 279         for ml in mls:
 280             sql = 'create table %s_%s (linkid varchar, nodeid varchar)'%(
 281                 spec.classname, ml)
 282             if __debug__:
 283                 print >>hyperdb.DEBUG, 'create_class', (self, sql)
 284             cursor.execute(sql)
 285
 286         # ID counter
 287         sql = 'insert into ids (name, num) values (?,?)'
 288         vals = (spec.classname, 1)
 289         if __debug__:
 290             print >>hyperdb.DEBUG, 'create_class', (self, sql, vals)
 291         cursor.execute(sql, vals)
 292
 293     def drop_class(self, spec):
 294         ''' Drop the given table from the database.
 295
 296             Drop the journal and multilink tables too.
 297         '''
 298         # figure the multilinks
 299         mls = []
 300         for col, prop in spec.properties.items():
 301             if isinstance(prop, Multilink):
 302                 mls.append(col)
 303         cursor = self.conn.cursor()
 304
 305         sql = 'drop table _%s'%spec.classname
 306         if __debug__:
 307             print >>hyperdb.DEBUG, 'drop_class', (self, sql)
 308         cursor.execute(sql)
 309
 310         sql = 'drop table %s__journal'%spec.classname
 311         if __debug__:
 312             print >>hyperdb.DEBUG, 'drop_class', (self, sql)
 313         cursor.execute(sql)
 314
 315         for ml in mls:
 316             sql = 'drop table %s_%s'%(spec.classname, ml)
 317             if __debug__:
 318                 print >>hyperdb.DEBUG, 'drop_class', (self, sql)
 319             cursor.execute(sql)
 320
 321     #
 322     # Classes
 323     #
 324     def __getattr__(self, classname):
 325         ''' A convenient way of calling self.getclass(classname).
 326         '''
 327         if self.classes.has_key(classname):
 328             if __debug__:
 329                 print >>hyperdb.DEBUG, '__getattr__', (self, classname)
 330             return self.classes[classname]
 331         raise AttributeError, classname
 332
 333     def addclass(self, cl):
 334         ''' Add a Class to the hyperdatabase.
 335         '''
 336         if __debug__:
 337             print >>hyperdb.DEBUG, 'addclass', (self, cl)
 338         cn = cl.classname
 339         if self.classes.has_key(cn):
 340             raise ValueError, cn
 341         self.classes[cn] = cl
 342
 343     def getclasses(self):
 344         ''' Return a list of the names of all existing classes.
 345         '''
 346         if __debug__:
 347             print >>hyperdb.DEBUG, 'getclasses', (self,)
 348         l = self.classes.keys()
 349         l.sort()
 350         return l
 351
 352     def getclass(self, classname):
 353         '''Get the Class object representing a particular class.
 354
 355         If 'classname' is not a valid class name, a KeyError is raised.
 356         '''
 357         if __debug__:
 358             print >>hyperdb.DEBUG, 'getclass', (self, classname)
 359         return self.classes[classname]
 360
 361     def clear(self):
 362         ''' Delete all database contents.
 363
 364             Note: I don't commit here, which is different behaviour to the
 365             "nuke from orbit" behaviour in the *dbms.
 366         '''
 367         if __debug__:
 368             print >>hyperdb.DEBUG, 'clear', (self,)
 369         cursor = self.conn.cursor()
 370         for cn in self.classes.keys():
 371             sql = 'delete from _%s'%cn
 372             if __debug__:
 373                 print >>hyperdb.DEBUG, 'clear', (self, sql)
 374             cursor.execute(sql)
 375
 376     #
 377     # Node IDs
 378     #
 379     def newid(self, classname):
 380         ''' Generate a new id for the given class
 381         '''
 382         # get the next ID
 383         cursor = self.conn.cursor()
 384         sql = 'select num from ids where name=?'
 385         if __debug__:
 386             print >>hyperdb.DEBUG, 'newid', (self, sql, classname)
 387         cursor.execute(sql, (classname, ))
 388         newid = cursor.fetchone()[0]
 389
 390         # update the counter
 391         sql = 'update ids set num=? where name=?'
 392         vals = (newid+1, classname)
 393         if __debug__:
 394             print >>hyperdb.DEBUG, 'newid', (self, sql, vals)
 395         cursor.execute(sql, vals)
 396
 397         # return as string
 398         return str(newid)
 399
 400     def setid(self, classname, setid):
 401         ''' Set the id counter: used during import of database
 402         '''
 403         cursor = self.conn.cursor()
 404         sql = 'update ids set num=? where name=?'
 405         vals = (setid, spec.classname)
 406         if __debug__:
 407             print >>hyperdb.DEBUG, 'setid', (self, sql, vals)
 408         cursor.execute(sql, vals)
 409
 410     #
 411     # Nodes
 412     #
 413
 414     def addnode(self, classname, nodeid, node):
 415         ''' Add the specified node to its class's db.
 416         '''
 417         if __debug__:
 418             print >>hyperdb.DEBUG, 'addnode', (self, classname, nodeid, node)
 419         # gadfly requires values for all non-multilink columns
 420         cl = self.classes[classname]
 421         cols, mls = self.determine_columns(cl)
 422
 423         # default the non-multilink columns
 424         for col, prop in cl.properties.items():
 425             if not isinstance(col, Multilink):
 426                 if not node.has_key(col):
 427                     node[col] = None
 428
 429         node = self.serialise(classname, node)
 430
 431         # make sure the ordering is correct for column name -> column value
 432         vals = tuple([node[col[1:]] for col in cols]) + (nodeid, 0)
 433         s = ','.join(['?' for x in cols]) + ',?,?'
 434         cols = ','.join(cols) + ',id,__retired__'
 435
 436         # perform the inserts
 437         cursor = self.conn.cursor()
 438         sql = 'insert into _%s (%s) values (%s)'%(classname, cols, s)
 439         if __debug__:
 440             print >>hyperdb.DEBUG, 'addnode', (self, sql, vals)
 441         cursor.execute(sql, vals)
 442
 443         # insert the multilink rows
 444         for col in mls:
 445             t = '%s_%s'%(classname, col)
 446             for entry in node[col]:
 447                 sql = 'insert into %s (linkid, nodeid) values (?,?)'%t
 448                 vals = (entry, nodeid)
 449                 if __debug__:
 450                     print >>hyperdb.DEBUG, 'addnode', (self, sql, vals)
 451                 cursor.execute(sql, vals)
 452
 453         # make sure we do the commit-time extra stuff for this node
 454         self.transactions.append((self.doSaveNode, (classname, nodeid, node)))
 455
 456     def setnode(self, classname, nodeid, node, multilink_changes):
 457         ''' Change the specified node.
 458         '''
 459         if __debug__:
 460             print >>hyperdb.DEBUG, 'setnode', (self, classname, nodeid, node)
 461         node = self.serialise(classname, node)
 462
 463         cl = self.classes[classname]
 464         cols = []
 465         mls = []
 466         # add the multilinks separately
 467         for col in node.keys():
 468             prop = cl.properties[col]
 469             if isinstance(prop, Multilink):
 470                 mls.append(col)
 471             else:
 472                 cols.append('_'+col)
 473         cols.sort()
 474
 475         # make sure the ordering is correct for column name -> column value
 476         vals = tuple([node[col[1:]] for col in cols])
 477         s = ','.join(['%s=?'%x for x in cols])
 478         cols = ','.join(cols)
 479
 480         # perform the update
 481         cursor = self.conn.cursor()
 482         sql = 'update _%s set %s'%(classname, s)
 483         if __debug__:
 484             print >>hyperdb.DEBUG, 'setnode', (self, sql, vals)
 485         cursor.execute(sql, vals)
 486
 487         # now the fun bit, updating the multilinks ;)
 488         for col, (add, remove) in multilink_changes.items():
 489             tn = '%s_%s'%(classname, col)
 490             if add:
 491                 sql = 'insert into %s (nodeid, linkid) values (?,?)'%tn
 492                 vals = [(nodeid, addid) for addid in add]
 493                 if __debug__:
 494                     print >>hyperdb.DEBUG, 'setnode (add)', (self, sql, vals)
 495                 cursor.execute(sql, vals)
 496             if remove:
 497                 sql = 'delete from %s where nodeid=? and linkid=?'%tn
 498                 vals = [(nodeid, removeid) for removeid in remove]
 499                 if __debug__:
 500                     print >>hyperdb.DEBUG, 'setnode (rem)', (self, sql, vals)
 501                 cursor.execute(sql, vals)
 502
 503         # make sure we do the commit-time extra stuff for this node
 504         self.transactions.append((self.doSaveNode, (classname, nodeid, node)))
 505
 506     def getnode(self, classname, nodeid):
 507         ''' Get a node from the database.
 508         '''
 509         if __debug__:
 510             print >>hyperdb.DEBUG, 'getnode', (self, classname, nodeid)
 511         # figure the columns we're fetching
 512         cl = self.classes[classname]
 513         cols, mls = self.determine_columns(cl)
 514         scols = ','.join(cols)
 515
 516         # perform the basic property fetch
 517         cursor = self.conn.cursor()
 518         sql = 'select %s from _%s where id=?'%(scols, classname)
 519         if __debug__:
 520             print >>hyperdb.DEBUG, 'getnode', (self, sql, nodeid)
 521         cursor.execute(sql, (nodeid,))
 522         try:
 523             values = cursor.fetchone()
 524         except gadfly.database.error, message:
 525             if message == 'no more results':
 526                 raise IndexError, 'no such %s node %s'%(classname, nodeid)
 527             raise
 528
 529         # make up the node
 530         node = {}
 531         for col in range(len(cols)):
 532             node[cols[col][1:]] = values[col]
 533
 534         # now the multilinks
 535         for col in mls:
 536             # get the link ids
 537             sql = 'select linkid from %s_%s where nodeid=?'%(classname, col)
 538             if __debug__:
 539                 print >>hyperdb.DEBUG, 'getnode', (self, sql, nodeid)
 540             cursor.execute(sql, (nodeid,))
 541             # extract the first column from the result
 542             node[col] = [x[0] for x in cursor.fetchall()]
 543
 544         return self.unserialise(classname, node)
 545
 546     def destroynode(self, classname, nodeid):
 547         '''Remove a node from the database. Called exclusively by the
 548            destroy() method on Class.
 549         '''
 550         if __debug__:
 551             print >>hyperdb.DEBUG, 'destroynode', (self, classname, nodeid)
 552
 553         # make sure the node exists
 554         if not self.hasnode(classname, nodeid):
 555             raise IndexError, '%s has no node %s'%(classname, nodeid)
 556
 557         # see if there's any obvious commit actions that we should get rid of
 558         for entry in self.transactions[:]:
 559             if entry[1][:2] == (classname, nodeid):
 560                 self.transactions.remove(entry)
 561
 562         # now do the SQL
 563         cursor = self.conn.cursor()
 564         sql = 'delete from _%s where id=?'%(classname)
 565         if __debug__:
 566             print >>hyperdb.DEBUG, 'destroynode', (self, sql, nodeid)
 567         cursor.execute(sql, (nodeid,))
 568
 569     def serialise(self, classname, node):
 570         '''Copy the node contents, converting non-marshallable data into
 571            marshallable data.
 572         '''
 573         if __debug__:
 574             print >>hyperdb.DEBUG, 'serialise', classname, node
 575         properties = self.getclass(classname).getprops()
 576         d = {}
 577         for k, v in node.items():
 578             # if the property doesn't exist, or is the "retired" flag then
 579             # it won't be in the properties dict
 580             if not properties.has_key(k):
 581                 d[k] = v
 582                 continue
 583
 584             # get the property spec
 585             prop = properties[k]
 586
 587             if isinstance(prop, Password):
 588                 d[k] = str(v)
 589             elif isinstance(prop, Date) and v is not None:
 590                 d[k] = v.serialise()
 591             elif isinstance(prop, Interval) and v is not None:
 592                 d[k] = v.serialise()
 593             else:
 594                 d[k] = v
 595         return d
 596
 597     def unserialise(self, classname, node):
 598         '''Decode the marshalled node data
 599         '''
 600         if __debug__:
 601             print >>hyperdb.DEBUG, 'unserialise', classname, node
 602         properties = self.getclass(classname).getprops()
 603         d = {}
 604         for k, v in node.items():
 605             # if the property doesn't exist, or is the "retired" flag then
 606             # it won't be in the properties dict
 607             if not properties.has_key(k):
 608                 d[k] = v
 609                 continue
 610
 611             # get the property spec
 612             prop = properties[k]
 613
 614             if isinstance(prop, Date) and v is not None:
 615                 d[k] = date.Date(v)
 616             elif isinstance(prop, Interval) and v is not None:
 617                 d[k] = date.Interval(v)
 618             elif isinstance(prop, Password):
 619                 p = password.Password()
 620                 p.unpack(v)
 621                 d[k] = p
 622             else:
 623                 d[k] = v
 624         return d
 625
 626     def hasnode(self, classname, nodeid):
 627         ''' Determine if the database has a given node.
 628         '''
 629         cursor = self.conn.cursor()
 630         sql = 'select count(*) from _%s where id=?'%classname
 631         if __debug__:
 632             print >>hyperdb.DEBUG, 'hasnode', (self, sql, nodeid)
 633         cursor.execute(sql, (nodeid,))
 634         return cursor.fetchone()[0]
 635
 636     def countnodes(self, classname):
 637         ''' Count the number of nodes that exist for a particular Class.
 638         '''
 639         cursor = self.conn.cursor()
 640         sql = 'select count(*) from _%s'%classname
 641         if __debug__:
 642             print >>hyperdb.DEBUG, 'countnodes', (self, sql)
 643         cursor.execute(sql)
 644         return cursor.fetchone()[0]
 645
 646     def getnodeids(self, classname, retired=0):
 647         ''' Retrieve all the ids of the nodes for a particular Class.
 648
 649             Set retired=None to get all nodes. Otherwise it'll get all the
 650             retired or non-retired nodes, depending on the flag.
 651         '''
 652         cursor = self.conn.cursor()
 653         # flip the sense of the flag if we don't want all of them
 654         if retired is not None:
 655             retired = not retired
 656         sql = 'select id from _%s where __retired__ <> ?'%classname
 657         if __debug__:
 658             print >>hyperdb.DEBUG, 'getnodeids', (self, sql, retired)
 659         cursor.execute(sql, (retired,))
 660         return [x[0] for x in cursor.fetchall()]
 661
 662     def addjournal(self, classname, nodeid, action, params):
 663         ''' Journal the Action
 664         'action' may be:
 665
 666             'create' or 'set' -- 'params' is a dictionary of property values
 667             'link' or 'unlink' -- 'params' is (classname, nodeid, propname)
 668             'retire' -- 'params' is None
 669         '''
 670         if isinstance(params, type({})):
 671             if params.has_key('creator'):
 672                 journaltag = self.user.get(params['creator'], 'username')
 673                 del params['creator']
 674             else:
 675                 journaltag = self.journaltag
 676             if params.has_key('created'):
 677                 journaldate = params['created'].serialise()
 678                 del params['created']
 679             else:
 680                 journaldate = date.Date().serialise()
 681             if params.has_key('activity'):
 682                 del params['activity']
 683
 684             # serialise the parameters now
 685             if action in ('set', 'create'):
 686                 params = self.serialise(classname, params)
 687         else:
 688             journaltag = self.journaltag
 689             journaldate = date.Date().serialise()
 690
 691         # create the journal entry
 692         cols = ','.join('nodeid date tag action params'.split())
 693         entry = (nodeid, journaldate, journaltag, action, params)
 694
 695         if __debug__:
 696             print >>hyperdb.DEBUG, 'doSaveJournal', entry
 697
 698         # do the insert
 699         cursor = self.conn.cursor()
 700         sql = 'insert into %s__journal (%s) values (?,?,?,?,?)'%(classname,
 701             cols)
 702         if __debug__:
 703             print >>hyperdb.DEBUG, 'addjournal', (self, sql, entry)
 704         cursor.execute(sql, entry)
 705
 706     def getjournal(self, classname, nodeid):
 707         ''' get the journal for id
 708         '''
 709         # make sure the node exists
 710         if not self.hasnode(classname, nodeid):
 711             raise IndexError, '%s has no node %s'%(classname, nodeid)
 712
 713         # now get the journal entries
 714         cols = ','.join('nodeid date tag action params'.split())
 715         cursor = self.conn.cursor()
 716         sql = 'select %s from %s__journal where nodeid=?'%(cols, classname)
 717         if __debug__:
 718             print >>hyperdb.DEBUG, 'getjournal', (self, sql, nodeid)
 719         cursor.execute(sql, (nodeid,))
 720         res = []
 721         for nodeid, date_stamp, user, action, params in cursor.fetchall():
 722             res.append((nodeid, date.Date(date_stamp), user, action, params))
 723         return res
 724
 725     def pack(self, pack_before):
 726         ''' Delete all journal entries except "create" before 'pack_before'.
 727         '''
 728         # get a 'yyyymmddhhmmss' version of the date
 729         date_stamp = pack_before.serialise()
 730
 731         # do the delete
 732         cursor = self.conn.cursor()
 733         for classname in self.classes.keys():
 734             sql = "delete from %s__journal where date<? and "\
 735                 "action<>'create'"%classname
 736             if __debug__:
 737                 print >>hyperdb.DEBUG, 'pack', (self, sql, date_stamp)
 738             cursor.execute(sql, (date_stamp,))
 739
 740     def commit(self):
 741         ''' Commit the current transactions.
 742
 743         Save all data changed since the database was opened or since the
 744         last commit() or rollback().
 745         '''
 746         if __debug__:
 747             print >>hyperdb.DEBUG, 'commit', (self,)
 748
 749         # commit gadfly
 750         self.conn.commit()
 751
 752         # now, do all the other transaction stuff
 753         reindex = {}
 754         for method, args in self.transactions:
 755             reindex[method(*args)] = 1
 756
 757         # reindex the nodes that request it
 758         for classname, nodeid in filter(None, reindex.keys()):
 759             print >>hyperdb.DEBUG, 'commit.reindex', (classname, nodeid)
 760             self.getclass(classname).index(nodeid)
 761
 762         # save the indexer state
 763         self.indexer.save_index()
 764
 765         # clear out the transactions
 766         self.transactions = []
 767
 768     def rollback(self):
 769         ''' Reverse all actions from the current transaction.
 770
 771         Undo all the changes made since the database was opened or the last
 772         commit() or rollback() was performed.
 773         '''
 774         if __debug__:
 775             print >>hyperdb.DEBUG, 'rollback', (self,)
 776
 777         # roll back gadfly
 778         self.conn.rollback()
 779
 780         # roll back "other" transaction stuff
 781         for method, args in self.transactions:
 782             # delete temporary files
 783             if method == self.doStoreFile:
 784                 self.rollbackStoreFile(*args)
 785         self.transactions = []
 786
 787     def doSaveNode(self, classname, nodeid, node):
 788         ''' dummy that just generates a reindex event
 789         '''
 790         # return the classname, nodeid so we reindex this content
 791         return (classname, nodeid)
 792
 793 #
 794 # The base Class class
 795 #
 796 class Class(hyperdb.Class):
 797     ''' The handle to a particular class of nodes in a hyperdatabase.
 798
 799         All methods except __repr__ and getnode must be implemented by a
 800         concrete backend Class.
 801     '''
 802
 803     def __init__(self, db, classname, **properties):
 804         '''Create a new class with a given name and property specification.
 805
 806         'classname' must not collide with the name of an existing class,
 807         or a ValueError is raised.  The keyword arguments in 'properties'
 808         must map names to property objects, or a TypeError is raised.
 809         '''
 810         if (properties.has_key('creation') or properties.has_key('activity')
 811                 or properties.has_key('creator')):
 812             raise ValueError, '"creation", "activity" and "creator" are '\
 813                 'reserved'
 814
 815         self.classname = classname
 816         self.properties = properties
 817         self.db = weakref.proxy(db)       # use a weak ref to avoid circularity
 818         self.key = ''
 819
 820         # should we journal changes (default yes)
 821         self.do_journal = 1
 822
 823         # do the db-related init stuff
 824         db.addclass(self)
 825
 826         self.auditors = {'create': [], 'set': [], 'retire': []}
 827         self.reactors = {'create': [], 'set': [], 'retire': []}
 828
 829     def schema(self):
 830         ''' A dumpable version of the schema that we can store in the
 831             database
 832         '''
 833         return (self.key, [(x, repr(y)) for x,y in self.properties.items()])
 834
 835     def enableJournalling(self):
 836         '''Turn journalling on for this class
 837         '''
 838         self.do_journal = 1
 839
 840     def disableJournalling(self):
 841         '''Turn journalling off for this class
 842         '''
 843         self.do_journal = 0
 844
 845     # Editing nodes:
 846     def create(self, **propvalues):
 847         ''' Create a new node of this class and return its id.
 848
 849         The keyword arguments in 'propvalues' map property names to values.
 850
 851         The values of arguments must be acceptable for the types of their
 852         corresponding properties or a TypeError is raised.
 853
 854         If this class has a key property, it must be present and its value
 855         must not collide with other key strings or a ValueError is raised.
 856
 857         Any other properties on this class that are missing from the
 858         'propvalues' dictionary are set to None.
 859
 860         If an id in a link or multilink property does not refer to a valid
 861         node, an IndexError is raised.
 862         '''
 863         if propvalues.has_key('id'):
 864             raise KeyError, '"id" is reserved'
 865
 866         if self.db.journaltag is None:
 867             raise DatabaseError, 'Database open read-only'
 868
 869         if propvalues.has_key('creation') or propvalues.has_key('activity'):
 870             raise KeyError, '"creation" and "activity" are reserved'
 871
 872         self.fireAuditors('create', None, propvalues)
 873
 874         # new node's id
 875         newid = self.db.newid(self.classname)
 876
 877         # validate propvalues
 878         num_re = re.compile('^\d+$')
 879         for key, value in propvalues.items():
 880             if key == self.key:
 881                 try:
 882                     self.lookup(value)
 883                 except KeyError:
 884                     pass
 885                 else:
 886                     raise ValueError, 'node with key "%s" exists'%value
 887
 888             # try to handle this property
 889             try:
 890                 prop = self.properties[key]
 891             except KeyError:
 892                 raise KeyError, '"%s" has no property "%s"'%(self.classname,
 893                     key)
 894
 895             if value is not None and isinstance(prop, Link):
 896                 if type(value) != type(''):
 897                     raise ValueError, 'link value must be String'
 898                 link_class = self.properties[key].classname
 899                 # if it isn't a number, it's a key
 900                 if not num_re.match(value):
 901                     try:
 902                         value = self.db.classes[link_class].lookup(value)
 903                     except (TypeError, KeyError):
 904                         raise IndexError, 'new property "%s": %s not a %s'%(
 905                             key, value, link_class)
 906                 elif not self.db.getclass(link_class).hasnode(value):
 907                     raise IndexError, '%s has no node %s'%(link_class, value)
 908
 909                 # save off the value
 910                 propvalues[key] = value
 911
 912                 # register the link with the newly linked node
 913                 if self.do_journal and self.properties[key].do_journal:
 914                     self.db.addjournal(link_class, value, 'link',
 915                         (self.classname, newid, key))
 916
 917             elif isinstance(prop, Multilink):
 918                 if type(value) != type([]):
 919                     raise TypeError, 'new property "%s" not a list of ids'%key
 920
 921                 # clean up and validate the list of links
 922                 link_class = self.properties[key].classname
 923                 l = []
 924                 for entry in value:
 925                     if type(entry) != type(''):
 926                         raise ValueError, '"%s" link value (%s) must be '\
 927                             'String'%(key, value)
 928                     # if it isn't a number, it's a key
 929                     if not num_re.match(entry):
 930                         try:
 931                             entry = self.db.classes[link_class].lookup(entry)
 932                         except (TypeError, KeyError):
 933                             raise IndexError, 'new property "%s": %s not a %s'%(
 934                                 key, entry, self.properties[key].classname)
 935                     l.append(entry)
 936                 value = l
 937                 propvalues[key] = value
 938
 939                 # handle additions
 940                 for nodeid in value:
 941                     if not self.db.getclass(link_class).hasnode(nodeid):
 942                         raise IndexError, '%s has no node %s'%(link_class,
 943                             nodeid)
 944                     # register the link with the newly linked node
 945                     if self.do_journal and self.properties[key].do_journal:
 946                         self.db.addjournal(link_class, nodeid, 'link',
 947                             (self.classname, newid, key))
 948
 949             elif isinstance(prop, String):
 950                 if type(value) != type(''):
 951                     raise TypeError, 'new property "%s" not a string'%key
 952
 953             elif isinstance(prop, Password):
 954                 if not isinstance(value, password.Password):
 955                     raise TypeError, 'new property "%s" not a Password'%key
 956
 957             elif isinstance(prop, Date):
 958                 if value is not None and not isinstance(value, date.Date):
 959                     raise TypeError, 'new property "%s" not a Date'%key
 960
 961             elif isinstance(prop, Interval):
 962                 if value is not None and not isinstance(value, date.Interval):
 963                     raise TypeError, 'new property "%s" not an Interval'%key
 964
 965             elif value is not None and isinstance(prop, Number):
 966                 try:
 967                     float(value)
 968                 except ValueError:
 969                     raise TypeError, 'new property "%s" not numeric'%key
 970
 971             elif value is not None and isinstance(prop, Boolean):
 972                 try:
 973                     int(value)
 974                 except ValueError:
 975                     raise TypeError, 'new property "%s" not boolean'%key
 976
 977         # make sure there's data where there needs to be
 978         for key, prop in self.properties.items():
 979             if propvalues.has_key(key):
 980                 continue
 981             if key == self.key:
 982                 raise ValueError, 'key property "%s" is required'%key
 983             if isinstance(prop, Multilink):
 984                 propvalues[key] = []
 985             else:
 986                 propvalues[key] = None
 987
 988         # done
 989         self.db.addnode(self.classname, newid, propvalues)
 990         if self.do_journal:
 991             self.db.addjournal(self.classname, newid, 'create', propvalues)
 992
 993         self.fireReactors('create', newid, None)
 994
 995         return newid
 996
 997     _marker = []
 998     def get(self, nodeid, propname, default=_marker, cache=1):
 999         '''Get the value of a property on an existing node of this class.
1000
1001         'nodeid' must be the id of an existing node of this class or an
1002         IndexError is raised.  'propname' must be the name of a property
1003         of this class or a KeyError is raised.
1004
1005         'cache' indicates whether the transaction cache should be queried
1006         for the node. If the node has been modified and you need to
1007         determine what its values prior to modification are, you need to
1008         set cache=0.
1009         '''
1010         if propname == 'id':
1011             return nodeid
1012
1013         if propname == 'creation':
1014             if not self.do_journal:
1015                 raise ValueError, 'Journalling is disabled for this class'
1016             journal = self.db.getjournal(self.classname, nodeid)
1017             if journal:
1018                 return self.db.getjournal(self.classname, nodeid)[0][1]
1019             else:
1020                 # on the strange chance that there's no journal
1021                 return date.Date()
1022         if propname == 'activity':
1023             if not self.do_journal:
1024                 raise ValueError, 'Journalling is disabled for this class'
1025             journal = self.db.getjournal(self.classname, nodeid)
1026             if journal:
1027                 return self.db.getjournal(self.classname, nodeid)[-1][1]
1028             else:
1029                 # on the strange chance that there's no journal
1030                 return date.Date()
1031         if propname == 'creator':
1032             if not self.do_journal:
1033                 raise ValueError, 'Journalling is disabled for this class'
1034             journal = self.db.getjournal(self.classname, nodeid)
1035             if journal:
1036                 name = self.db.getjournal(self.classname, nodeid)[0][2]
1037             else:
1038                 return None
1039             return self.db.user.lookup(name)
1040
1041         # get the property (raises KeyErorr if invalid)
1042         prop = self.properties[propname]
1043
1044         # get the node's dict
1045         d = self.db.getnode(self.classname, nodeid) #, cache=cache)
1046
1047         if not d.has_key(propname):
1048             if default is self._marker:
1049                 if isinstance(prop, Multilink):
1050                     return []
1051                 else:
1052                     return None
1053             else:
1054                 return default
1055
1056         # don't pass our list to other code
1057         if isinstance(prop, Multilink):
1058             return d[propname][:]
1059
1060         return d[propname]
1061
1062     def getnode(self, nodeid, cache=1):
1063         ''' Return a convenience wrapper for the node.
1064
1065         'nodeid' must be the id of an existing node of this class or an
1066         IndexError is raised.
1067
1068         'cache' indicates whether the transaction cache should be queried
1069         for the node. If the node has been modified and you need to
1070         determine what its values prior to modification are, you need to
1071         set cache=0.
1072         '''
1073         return Node(self, nodeid, cache=cache)
1074
1075     def set(self, nodeid, **propvalues):
1076         '''Modify a property on an existing node of this class.
1077
1078         'nodeid' must be the id of an existing node of this class or an
1079         IndexError is raised.
1080
1081         Each key in 'propvalues' must be the name of a property of this
1082         class or a KeyError is raised.
1083
1084         All values in 'propvalues' must be acceptable types for their
1085         corresponding properties or a TypeError is raised.
1086
1087         If the value of the key property is set, it must not collide with
1088         other key strings or a ValueError is raised.
1089
1090         If the value of a Link or Multilink property contains an invalid
1091         node id, a ValueError is raised.
1092         '''
1093         if not propvalues:
1094             return propvalues
1095
1096         if propvalues.has_key('creation') or propvalues.has_key('activity'):
1097             raise KeyError, '"creation" and "activity" are reserved'
1098
1099         if propvalues.has_key('id'):
1100             raise KeyError, '"id" is reserved'
1101
1102         if self.db.journaltag is None:
1103             raise DatabaseError, 'Database open read-only'
1104
1105         self.fireAuditors('set', nodeid, propvalues)
1106         # Take a copy of the node dict so that the subsequent set
1107         # operation doesn't modify the oldvalues structure.
1108         # XXX used to try the cache here first
1109         oldvalues = copy.deepcopy(self.db.getnode(self.classname, nodeid))
1110
1111         node = self.db.getnode(self.classname, nodeid)
1112         if self.is_retired(nodeid):
1113             raise IndexError
1114         num_re = re.compile('^\d+$')
1115
1116         # if the journal value is to be different, store it in here
1117         journalvalues = {}
1118
1119         # remember the add/remove stuff for multilinks, making it easier
1120         # for the Database layer to do its stuff
1121         multilink_changes = {}
1122
1123         for propname, value in propvalues.items():
1124             # check to make sure we're not duplicating an existing key
1125             if propname == self.key and node[propname] != value:
1126                 try:
1127                     self.lookup(value)
1128                 except KeyError:
1129                     pass
1130                 else:
1131                     raise ValueError, 'node with key "%s" exists'%value
1132
1133             # this will raise the KeyError if the property isn't valid
1134             # ... we don't use getprops() here because we only care about
1135             # the writeable properties.
1136             prop = self.properties[propname]
1137
1138             # if the value's the same as the existing value, no sense in
1139             # doing anything
1140             if node.has_key(propname) and value == node[propname]:
1141                 del propvalues[propname]
1142                 continue
1143
1144             # do stuff based on the prop type
1145             if isinstance(prop, Link):
1146                 link_class = prop.classname
1147                 # if it isn't a number, it's a key
1148                 if value is not None and not isinstance(value, type('')):
1149                     raise ValueError, 'property "%s" link value be a string'%(
1150                         propname)
1151                 if isinstance(value, type('')) and not num_re.match(value):
1152                     try:
1153                         value = self.db.classes[link_class].lookup(value)
1154                     except (TypeError, KeyError):
1155                         raise IndexError, 'new property "%s": %s not a %s'%(
1156                             propname, value, prop.classname)
1157
1158                 if (value is not None and
1159                         not self.db.getclass(link_class).hasnode(value)):
1160                     raise IndexError, '%s has no node %s'%(link_class, value)
1161
1162                 if self.do_journal and prop.do_journal:
1163                     # register the unlink with the old linked node
1164                     if node[propname] is not None:
1165                         self.db.addjournal(link_class, node[propname], 'unlink',
1166                             (self.classname, nodeid, propname))
1167
1168                     # register the link with the newly linked node
1169                     if value is not None:
1170                         self.db.addjournal(link_class, value, 'link',
1171                             (self.classname, nodeid, propname))
1172
1173             elif isinstance(prop, Multilink):
1174                 if type(value) != type([]):
1175                     raise TypeError, 'new property "%s" not a list of'\
1176                         ' ids'%propname
1177                 link_class = self.properties[propname].classname
1178                 l = []
1179                 for entry in value:
1180                     # if it isn't a number, it's a key
1181                     if type(entry) != type(''):
1182                         raise ValueError, 'new property "%s" link value ' \
1183                             'must be a string'%propname
1184                     if not num_re.match(entry):
1185                         try:
1186                             entry = self.db.classes[link_class].lookup(entry)
1187                         except (TypeError, KeyError):
1188                             raise IndexError, 'new property "%s": %s not a %s'%(
1189                                 propname, entry,
1190                                 self.properties[propname].classname)
1191                     l.append(entry)
1192                 value = l
1193                 propvalues[propname] = value
1194
1195                 # figure the journal entry for this property
1196                 add = []
1197                 remove = []
1198
1199                 # handle removals
1200                 if node.has_key(propname):
1201                     l = node[propname]
1202                 else:
1203                     l = []
1204                 for id in l[:]:
1205                     if id in value:
1206                         continue
1207                     # register the unlink with the old linked node
1208                     if self.do_journal and self.properties[propname].do_journal:
1209                         self.db.addjournal(link_class, id, 'unlink',
1210                             (self.classname, nodeid, propname))
1211                     l.remove(id)
1212                     remove.append(id)
1213
1214                 # handle additions
1215                 for id in value:
1216                     if not self.db.getclass(link_class).hasnode(id):
1217                         raise IndexError, '%s has no node %s'%(link_class, id)
1218                     if id in l:
1219                         continue
1220                     # register the link with the newly linked node
1221                     if self.do_journal and self.properties[propname].do_journal:
1222                         self.db.addjournal(link_class, id, 'link',
1223                             (self.classname, nodeid, propname))
1224                     l.append(id)
1225                     add.append(id)
1226
1227                 # figure the journal entry
1228                 l = []
1229                 if add:
1230                     l.append(('+', add))
1231                 if remove:
1232                     l.append(('-', remove))
1233                 multilink_changes[propname] = (add, remove)
1234                 if l:
1235                     journalvalues[propname] = tuple(l)
1236
1237             elif isinstance(prop, String):
1238                 if value is not None and type(value) != type(''):
1239                     raise TypeError, 'new property "%s" not a string'%propname
1240
1241             elif isinstance(prop, Password):
1242                 if not isinstance(value, password.Password):
1243                     raise TypeError, 'new property "%s" not a Password'%propname
1244                 propvalues[propname] = value
1245
1246             elif value is not None and isinstance(prop, Date):
1247                 if not isinstance(value, date.Date):
1248                     raise TypeError, 'new property "%s" not a Date'% propname
1249                 propvalues[propname] = value
1250
1251             elif value is not None and isinstance(prop, Interval):
1252                 if not isinstance(value, date.Interval):
1253                     raise TypeError, 'new property "%s" not an '\
1254                         'Interval'%propname
1255                 propvalues[propname] = value
1256
1257             elif value is not None and isinstance(prop, Number):
1258                 try:
1259                     float(value)
1260                 except ValueError:
1261                     raise TypeError, 'new property "%s" not numeric'%propname
1262
1263             elif value is not None and isinstance(prop, Boolean):
1264                 try:
1265                     int(value)
1266                 except ValueError:
1267                     raise TypeError, 'new property "%s" not boolean'%propname
1268
1269             node[propname] = value
1270
1271         # nothing to do?
1272         if not propvalues:
1273             return propvalues
1274
1275         # do the set, and journal it
1276         self.db.setnode(self.classname, nodeid, node, multilink_changes)
1277
1278         if self.do_journal:
1279             propvalues.update(journalvalues)
1280             self.db.addjournal(self.classname, nodeid, 'set', propvalues)
1281
1282         self.fireReactors('set', nodeid, oldvalues)
1283
1284         return propvalues
1285
1286     def retire(self, nodeid):
1287         '''Retire a node.
1288
1289         The properties on the node remain available from the get() method,
1290         and the node's id is never reused.
1291
1292         Retired nodes are not returned by the find(), list(), or lookup()
1293         methods, and other nodes may reuse the values of their key properties.
1294         '''
1295         if self.db.journaltag is None:
1296             raise DatabaseError, 'Database open read-only'
1297
1298         cursor = self.db.conn.cursor()
1299         sql = 'update _%s set __retired__=1 where id=?'%self.classname
1300         if __debug__:
1301             print >>hyperdb.DEBUG, 'retire', (self, sql, nodeid)
1302         cursor.execute(sql, (nodeid,))
1303
1304     def is_retired(self, nodeid):
1305         '''Return true if the node is rerired
1306         '''
1307         cursor = self.db.conn.cursor()
1308         sql = 'select __retired__ from _%s where id=?'%self.classname
1309         if __debug__:
1310             print >>hyperdb.DEBUG, 'is_retired', (self, sql, nodeid)
1311         cursor.execute(sql, (nodeid,))
1312         return cursor.fetchone()[0]
1313
1314     def destroy(self, nodeid):
1315         '''Destroy a node.
1316
1317         WARNING: this method should never be used except in extremely rare
1318                  situations where there could never be links to the node being
1319                  deleted
1320         WARNING: use retire() instead
1321         WARNING: the properties of this node will not be available ever again
1322         WARNING: really, use retire() instead
1323
1324         Well, I think that's enough warnings. This method exists mostly to
1325         support the session storage of the cgi interface.
1326
1327         The node is completely removed from the hyperdb, including all journal
1328         entries. It will no longer be available, and will generally break code
1329         if there are any references to the node.
1330         '''
1331         if self.db.journaltag is None:
1332             raise DatabaseError, 'Database open read-only'
1333         self.db.destroynode(self.classname, nodeid)
1334
1335     def history(self, nodeid):
1336         '''Retrieve the journal of edits on a particular node.
1337
1338         'nodeid' must be the id of an existing node of this class or an
1339         IndexError is raised.
1340
1341         The returned list contains tuples of the form
1342
1343             (date, tag, action, params)
1344
1345         'date' is a Timestamp object specifying the time of the change and
1346         'tag' is the journaltag specified when the database was opened.
1347         '''
1348         if not self.do_journal:
1349             raise ValueError, 'Journalling is disabled for this class'
1350         return self.db.getjournal(self.classname, nodeid)
1351
1352     # Locating nodes:
1353     def hasnode(self, nodeid):
1354         '''Determine if the given nodeid actually exists
1355         '''
1356         return self.db.hasnode(self.classname, nodeid)
1357
1358     def setkey(self, propname):
1359         '''Select a String property of this class to be the key property.
1360
1361         'propname' must be the name of a String property of this class or
1362         None, or a TypeError is raised.  The values of the key property on
1363         all existing nodes must be unique or a ValueError is raised.
1364         '''
1365         # XXX create an index on the key prop column
1366         prop = self.getprops()[propname]
1367         if not isinstance(prop, String):
1368             raise TypeError, 'key properties must be String'
1369         self.key = propname
1370
1371     def getkey(self):
1372         '''Return the name of the key property for this class or None.'''
1373         return self.key
1374
1375     def labelprop(self, default_to_id=0):
1376         ''' Return the property name for a label for the given node.
1377
1378         This method attempts to generate a consistent label for the node.
1379         It tries the following in order:
1380             1. key property
1381             2. "name" property
1382             3. "title" property
1383             4. first property from the sorted property name list
1384         '''
1385         k = self.getkey()
1386         if  k:
1387             return k
1388         props = self.getprops()
1389         if props.has_key('name'):
1390             return 'name'
1391         elif props.has_key('title'):
1392             return 'title'
1393         if default_to_id:
1394             return 'id'
1395         props = props.keys()
1396         props.sort()
1397         return props[0]
1398
1399     def lookup(self, keyvalue):
1400         '''Locate a particular node by its key property and return its id.
1401
1402         If this class has no key property, a TypeError is raised.  If the
1403         'keyvalue' matches one of the values for the key property among
1404         the nodes in this class, the matching node's id is returned;
1405         otherwise a KeyError is raised.
1406         '''
1407         if not self.key:
1408             raise TypeError, 'No key property set'
1409
1410         cursor = self.db.conn.cursor()
1411         sql = 'select id from _%s where _%s=?'%(self.classname, self.key)
1412         if __debug__:
1413             print >>hyperdb.DEBUG, 'lookup', (self, sql, keyvalue)
1414         cursor.execute(sql, (keyvalue,))
1415
1416         # see if there was a result
1417         l = cursor.fetchall()
1418         if not l:
1419             raise KeyError, keyvalue
1420
1421         # return the id
1422         return l[0][0]
1423
1424     def find(self, **propspec):
1425         '''Get the ids of nodes in this class which link to the given nodes.
1426
1427         'propspec' consists of keyword args propname={nodeid:1,}
1428         'propname' must be the name of a property in this class, or a
1429         KeyError is raised.  That property must be a Link or Multilink
1430         property, or a TypeError is raised.
1431
1432         Any node in this class whose 'propname' property links to any of the
1433         nodeids will be returned. Used by the full text indexing, which knows
1434         that "foo" occurs in msg1, msg3 and file7, so we have hits on these
1435         issues:
1436
1437             db.issue.find(messages={'1':1,'3':1}, files={'7':1})
1438         '''
1439         if __debug__:
1440             print >>hyperdb.DEBUG, 'find', (self, propspec)
1441         if not propspec:
1442             return []
1443         queries = []
1444         tables = []
1445         allvalues = ()
1446         for prop, values in propspec.items():
1447             allvalues += tuple(values.keys())
1448             tables.append('select nodeid from %s_%s where linkid in (%s)'%(
1449                 self.classname, prop, ','.join(['?' for x in values.keys()])))
1450         sql = '\nintersect\n'.join(tables)
1451         if __debug__:
1452             print >>hyperdb.DEBUG, 'find', (self, sql, allvalues)
1453         cursor = self.db.conn.cursor()
1454         cursor.execute(sql, allvalues)
1455         try:
1456             l = [x[0] for x in cursor.fetchall()]
1457         except gadfly.database.error, message:
1458             if message == 'no more results':
1459                 l = []
1460             raise
1461         if __debug__:
1462             print >>hyperdb.DEBUG, 'find ... ', l
1463         return l
1464
1465     def list(self):
1466         ''' Return a list of the ids of the active nodes in this class.
1467         '''
1468         return self.db.getnodeids(self.classname, retired=0)
1469
1470     def filter(self, search_matches, filterspec, sort, group):
1471         ''' Return a list of the ids of the active nodes in this class that
1472             match the 'filter' spec, sorted by the group spec and then the
1473             sort spec
1474
1475             "filterspec" is {propname: value(s)}
1476             "sort" and "group" are (dir, prop) where dir is '+', '-' or None
1477                                and prop is a prop name or None
1478             "search_matches" is {nodeid: marker}
1479         '''
1480         cn = self.classname
1481
1482         # figure the WHERE clause from the filterspec
1483         props = self.getprops()
1484         frum = ['_'+cn]
1485         where = []
1486         args = []
1487         for k, v in filterspec.items():
1488             propclass = props[k]
1489             if isinstance(propclass, Multilink):
1490                 tn = '%s_%s'%(cn, k)
1491                 frum.append(tn)
1492                 if isinstance(v, type([])):
1493                     s = ','.join(['?' for x in v])
1494                     where.append('id=%s.nodeid and %s.linkid in (%s)'%(tn,tn,s))
1495                     args = args + v
1496                 else:
1497                     where.append('id=%s.nodeid and %s.linkid = ?'%(tn, tn))
1498                     args.append(v)
1499             else:
1500                 if isinstance(v, type([])):
1501                     s = ','.join(['?' for x in v])
1502                     where.append('_%s in (%s)'%(k, s))
1503                     args = args + v
1504                 else:
1505                     where.append('_%s=?'%k)
1506                     args.append(v)
1507
1508         # add results of full text search
1509         if search_matches is not None:
1510             v = search_matches.keys()
1511             s = ','.join(['?' for x in v])
1512             where.append('id in (%s)'%s)
1513             args = args + v
1514
1515         # figure the order by clause
1516         orderby = []
1517         ordercols = []
1518         if sort is not None:
1519             if sort[0] != '-':
1520                 orderby.append('_'+sort[1])
1521                 ordercols.append(sort[1])
1522             else:
1523                 orderby.append('_'+sort[1]+' desc')
1524                 ordercols.append(sort[1])
1525
1526         # figure the group by clause
1527         groupby = []
1528         groupcols = []
1529         if group is not None:
1530             if group[0] != '-':
1531                 groupby.append('_'+group[1])
1532                 groupcols.append(group[1])
1533             else:
1534                 groupby.append('_'+group[1]+' desc')
1535                 groupcols.append(group[1])
1536
1537         # construct the SQL
1538         frum = ','.join(frum)
1539         where = ' and '.join(where)
1540         cols = ['id']
1541         if orderby:
1542             cols = cols + ordercols
1543             order = ' order by %s'%(','.join(orderby))
1544         else:
1545             order = ''
1546         if groupby:
1547             cols = cols + groupcols
1548             group = ' group by %s'%(','.join(groupby))
1549         else:
1550             group = ''
1551         cols = ','.join(cols)
1552         sql = 'select %s from %s where %s%s%s'%(cols, frum, where, order,
1553             group)
1554         args = tuple(args)
1555         if __debug__:
1556             print >>hyperdb.DEBUG, 'find', (self, sql, args)
1557         cursor = self.db.conn.cursor()
1558         cursor.execute(sql, args)
1559
1560     def count(self):
1561         '''Get the number of nodes in this class.
1562
1563         If the returned integer is 'numnodes', the ids of all the nodes
1564         in this class run from 1 to numnodes, and numnodes+1 will be the
1565         id of the next node to be created in this class.
1566         '''
1567         return self.db.countnodes(self.classname)
1568
1569     # Manipulating properties:
1570     def getprops(self, protected=1):
1571         '''Return a dictionary mapping property names to property objects.
1572            If the "protected" flag is true, we include protected properties -
1573            those which may not be modified.
1574         '''
1575         d = self.properties.copy()
1576         if protected:
1577             d['id'] = String()
1578             d['creation'] = hyperdb.Date()
1579             d['activity'] = hyperdb.Date()
1580             d['creator'] = hyperdb.Link("user")
1581         return d
1582
1583     def addprop(self, **properties):
1584         '''Add properties to this class.
1585
1586         The keyword arguments in 'properties' must map names to property
1587         objects, or a TypeError is raised.  None of the keys in 'properties'
1588         may collide with the names of existing properties, or a ValueError
1589         is raised before any properties have been added.
1590         '''
1591         for key in properties.keys():
1592             if self.properties.has_key(key):
1593                 raise ValueError, key
1594         self.properties.update(properties)
1595
1596     def index(self, nodeid):
1597         '''Add (or refresh) the node to search indexes
1598         '''
1599         # find all the String properties that have indexme
1600         for prop, propclass in self.getprops().items():
1601             if isinstance(propclass, String) and propclass.indexme:
1602                 try:
1603                     value = str(self.get(nodeid, prop))
1604                 except IndexError:
1605                     # node no longer exists - entry should be removed
1606                     self.db.indexer.purge_entry((self.classname, nodeid, prop))
1607                 else:
1608                     # and index them under (classname, nodeid, property)
1609                     self.db.indexer.add_text((self.classname, nodeid, prop),
1610                         value)
1611
1612
1613     #
1614     # Detector interface
1615     #
1616     def audit(self, event, detector):
1617         '''Register a detector
1618         '''
1619         l = self.auditors[event]
1620         if detector not in l:
1621             self.auditors[event].append(detector)
1622
1623     def fireAuditors(self, action, nodeid, newvalues):
1624         '''Fire all registered auditors.
1625         '''
1626         for audit in self.auditors[action]:
1627             audit(self.db, self, nodeid, newvalues)
1628
1629     def react(self, event, detector):
1630         '''Register a detector
1631         '''
1632         l = self.reactors[event]
1633         if detector not in l:
1634             self.reactors[event].append(detector)
1635
1636     def fireReactors(self, action, nodeid, oldvalues):
1637         '''Fire all registered reactors.
1638         '''
1639         for react in self.reactors[action]:
1640             react(self.db, self, nodeid, oldvalues)
1641
1642 class FileClass(Class):
1643     '''This class defines a large chunk of data. To support this, it has a
1644        mandatory String property "content" which is typically saved off
1645        externally to the hyperdb.
1646
1647        The default MIME type of this data is defined by the
1648        "default_mime_type" class attribute, which may be overridden by each
1649        node if the class defines a "type" String property.
1650     '''
1651     default_mime_type = 'text/plain'
1652
1653     def create(self, **propvalues):
1654         ''' snaffle the file propvalue and store in a file
1655         '''
1656         content = propvalues['content']
1657         del propvalues['content']
1658         newid = Class.create(self, **propvalues)
1659         self.db.storefile(self.classname, newid, None, content)
1660         return newid
1661
1662     def import_list(self, propnames, proplist):
1663         ''' Trap the "content" property...
1664         '''
1665         # dupe this list so we don't affect others
1666         propnames = propnames[:]
1667
1668         # extract the "content" property from the proplist
1669         i = propnames.index('content')
1670         content = proplist[i]
1671         del propnames[i]
1672         del proplist[i]
1673
1674         # do the normal import
1675         newid = Class.import_list(self, propnames, proplist)
1676
1677         # save off the "content" file
1678         self.db.storefile(self.classname, newid, None, content)
1679         return newid
1680
1681     _marker = []
1682     def get(self, nodeid, propname, default=_marker, cache=1):
1683         ''' trap the content propname and get it from the file
1684         '''
1685
1686         poss_msg = 'Possibly a access right configuration problem.'
1687         if propname == 'content':
1688             try:
1689                 return self.db.getfile(self.classname, nodeid, None)
1690             except IOError, (strerror):
1691                 # BUG: by catching this we donot see an error in the log.
1692                 return 'ERROR reading file: %s%s\n%s\n%s'%(
1693                         self.classname, nodeid, poss_msg, strerror)
1694         if default is not self._marker:
1695             return Class.get(self, nodeid, propname, default, cache=cache)
1696         else:
1697             return Class.get(self, nodeid, propname, cache=cache)
1698
1699     def getprops(self, protected=1):
1700         ''' In addition to the actual properties on the node, these methods
1701             provide the "content" property. If the "protected" flag is true,
1702             we include protected properties - those which may not be
1703             modified.
1704         '''
1705         d = Class.getprops(self, protected=protected).copy()
1706         if protected:
1707             d['content'] = hyperdb.String()
1708         return d
1709
1710     def index(self, nodeid):
1711         ''' Index the node in the search index.
1712
1713             We want to index the content in addition to the normal String
1714             property indexing.
1715         '''
1716         # perform normal indexing
1717         Class.index(self, nodeid)
1718
1719         # get the content to index
1720         content = self.get(nodeid, 'content')
1721
1722         # figure the mime type
1723         if self.properties.has_key('type'):
1724             mime_type = self.get(nodeid, 'type')
1725         else:
1726             mime_type = self.default_mime_type
1727
1728         # and index!
1729         self.db.indexer.add_text((self.classname, nodeid, 'content'), content,
1730             mime_type)
1731
1732 # XXX deviation from spec - was called ItemClass
1733 class IssueClass(Class, roundupdb.IssueClass):
1734     # Overridden methods:
1735     def __init__(self, db, classname, **properties):
1736         '''The newly-created class automatically includes the "messages",
1737         "files", "nosy", and "superseder" properties.  If the 'properties'
1738         dictionary attempts to specify any of these properties or a
1739         "creation" or "activity" property, a ValueError is raised.
1740         '''
1741         if not properties.has_key('title'):
1742             properties['title'] = hyperdb.String(indexme='yes')
1743         if not properties.has_key('messages'):
1744             properties['messages'] = hyperdb.Multilink("msg")
1745         if not properties.has_key('files'):
1746             properties['files'] = hyperdb.Multilink("file")
1747         if not properties.has_key('nosy'):
1748             # note: journalling is turned off as it really just wastes
1749             # space. this behaviour may be overridden in an instance
1750             properties['nosy'] = hyperdb.Multilink("user", do_journal="no")
1751         if not properties.has_key('superseder'):
1752             properties['superseder'] = hyperdb.Multilink(classname)
1753         Class.__init__(self, db, classname, **properties)
1754
1755 #
1756 # $Log: not supported by cvs2svn $
1757 # Revision 1.7  2002/09/01 04:32:30  richard
1758 # . Lots of cleanup in the classic html (stylesheet, search page, index page, ...)
1759 # . Reinstated searching, but not query saving yet
1760 # . Filtering only allows sorting and grouping by one property - all backends
1761 #   now implement this behaviour.
1762 # . Nosy list journalling turned off by default, everything else is on.
1763 # . Added some convenience methods (reverse, propchanged, [item] accesses, ...)
1764 # . Did I mention the stylesheet is much cleaner now? :)
1765 #
1766 # Revision 1.6  2002/08/30 08:35:16  richard
1767 # very basic filter support
1768 #
1769 # Revision 1.5  2002/08/23 05:33:32  richard
1770 # implemented multilink changes (and a unit test)
1771 #
1772 # Revision 1.4  2002/08/23 05:00:38  richard
1773 # fixed read-only gadfly retire()
1774 #
1775 # Revision 1.3  2002/08/23 04:58:00  richard
1776 # ahhh, I understand now
1777 #
1778 # Revision 1.2  2002/08/23 04:48:10  richard
1779 # That's gadfly done, mostly. Things left:
1780 # - Class.filter (I'm a wuss ;)
1781 # - schema changes adding new non-multilink properties are not implemented.
1782 #   gadfly doesn't have an ALTER TABLE command, making that quite difficult :)
1783 #
1784 # I had to mangle two unit tests to get this all working:
1785 # - gadfly also can't handle two handles open on the one database, so
1786 #   testIDGeneration doesn't try that.
1787 # - testNewProperty is disabled as per the second comment above.
1788 #
1789 # I noticed test_pack was incorrect, and the *dbm tests fail there now.
1790 # Looking into it...
1791 #
1792 # Revision 1.1  2002/08/22 07:56:51  richard
1793 # Whee! It's not finished yet, but I can create a new instance and play with
1794 # it a little bit :)
1795 #
1796 # Revision 1.80  2002/08/16 04:28:13  richard
1797 # added is_retired query to Class
1798 #
1799 # Revision 1.79  2002/07/29 23:30:14  richard
1800 # documentation reorg post-new-security
1801 #
1802 # Revision 1.78  2002/07/21 03:26:37  richard
1803 # Gordon, does this help?
1804 #
1805 # Revision 1.77  2002/07/18 11:27:47  richard
1806 # ws
1807 #
1808 # Revision 1.76  2002/07/18 11:17:30  gmcm
1809 # Add Number and Boolean types to hyperdb.
1810 # Add conversion cases to web, mail & admin interfaces.
1811 # Add storage/serialization cases to back_anydbm & back_metakit.
1812 #
1813 # Revision 1.75  2002/07/14 02:05:53  richard
1814 # . all storage-specific code (ie. backend) is now implemented by the backends
1815 #
1816 # Revision 1.74  2002/07/10 00:24:10  richard
1817 # braino
1818 #
1819 # Revision 1.73  2002/07/10 00:19:48  richard
1820 # Added explicit closing of backend database handles.
1821 #
1822 # Revision 1.72  2002/07/09 21:53:38  gmcm
1823 # Optimize Class.find so that the propspec can contain a set of ids to match.
1824 # This is used by indexer.search so it can do just one find for all the index matches.
1825 # This was already confusing code, but for common terms (lots of index matches),
1826 # it is enormously faster.
1827 #
1828 # Revision 1.71  2002/07/09 03:02:52  richard
1829 # More indexer work:
1830 # - all String properties may now be indexed too. Currently there's a bit of
1831 #   "issue" specific code in the actual searching which needs to be
1832 #   addressed. In a nutshell:
1833 #   + pass 'indexme="yes"' as a String() property initialisation arg, eg:
1834 #         file = FileClass(db, "file", name=String(), type=String(),
1835 #             comment=String(indexme="yes"))
1836 #   + the comment will then be indexed and be searchable, with the results
1837 #     related back to the issue that the file is linked to
1838 # - as a result of this work, the FileClass has a default MIME type that may
1839 #   be overridden in a subclass, or by the use of a "type" property as is
1840 #   done in the default templates.
1841 # - the regeneration of the indexes (if necessary) is done once the schema is
1842 #   set up in the dbinit.
1843 #
1844 # Revision 1.70  2002/06/27 12:06:20  gmcm
1845 # Improve an error message.
1846 #
1847 # Revision 1.69  2002/06/17 23:15:29  richard
1848 # Can debug to stdout now
1849 #
1850 # Revision 1.68  2002/06/11 06:52:03  richard
1851 #  . #564271 ] find() and new properties
1852 #
1853 # Revision 1.67  2002/06/11 05:02:37  richard
1854 #  . #565979 ] code error in hyperdb.Class.find
1855 #
1856 # Revision 1.66  2002/05/25 07:16:24  rochecompaan
1857 # Merged search_indexing-branch with HEAD
1858 #
1859 # Revision 1.65  2002/05/22 04:12:05  richard
1860 #  . applied patch #558876 ] cgi client customization
1861 #    ... with significant additions and modifications ;)
1862 #    - extended handling of ML assignedto to all places it's handled
1863 #    - added more NotFound info
1864 #
1865 # Revision 1.64  2002/05/15 06:21:21  richard
1866 #  . node caching now works, and gives a small boost in performance
1867 #
1868 # As a part of this, I cleaned up the DEBUG output and implemented TRACE
1869 # output (HYPERDBTRACE='file to trace to') with checkpoints at the start of
1870 # CGI requests. Run roundup with python -O to skip all the DEBUG/TRACE stuff
1871 # (using if __debug__ which is compiled out with -O)
1872 #
1873 # Revision 1.63  2002/04/15 23:25:15  richard
1874 # . node ids are now generated from a lockable store - no more race conditions
1875 #
1876 # We're using the portalocker code by Jonathan Feinberg that was contributed
1877 # to the ASPN Python cookbook. This gives us locking across Unix and Windows.
1878 #
1879 # Revision 1.62  2002/04/03 07:05:50  richard
1880 # d'oh! killed retirement of nodes :(
1881 # all better now...
1882 #
1883 # Revision 1.61  2002/04/03 06:11:51  richard
1884 # Fix for old databases that contain properties that don't exist any more.
1885 #
1886 # Revision 1.60  2002/04/03 05:54:31  richard
1887 # Fixed serialisation problem by moving the serialisation step out of the
1888 # hyperdb.Class (get, set) into the hyperdb.Database.
1889 #
1890 # Also fixed htmltemplate after the showid changes I made yesterday.
1891 #
1892 # Unit tests for all of the above written.
1893 #
1894 # Revision 1.59.2.2  2002/04/20 13:23:33  rochecompaan
1895 # We now have a separate search page for nodes.  Search links for
1896 # different classes can be customized in instance_config similar to
1897 # index links.
1898 #
1899 # Revision 1.59.2.1  2002/04/19 19:54:42  rochecompaan
1900 # cgi_client.py
1901 #     removed search link for the time being
1902 #     moved rendering of matches to htmltemplate
1903 # hyperdb.py
1904 #     filtering of nodes on full text search incorporated in filter method
1905 # roundupdb.py
1906 #     added paramater to call of filter method
1907 # roundup_indexer.py
1908 #     added search method to RoundupIndexer class
1909 #
1910 # Revision 1.59  2002/03/12 22:52:26  richard
1911 # more pychecker warnings removed
1912 #
1913 # Revision 1.58  2002/02/27 03:23:16  richard
1914 # Ran it through pychecker, made fixes
1915 #
1916 # Revision 1.57  2002/02/20 05:23:24  richard
1917 # Didn't accomodate new values for new properties
1918 #
1919 # Revision 1.56  2002/02/20 05:05:28  richard
1920 #  . Added simple editing for classes that don't define a templated interface.
1921 #    - access using the admin "class list" interface
1922 #    - limited to admin-only
1923 #    - requires the csv module from object-craft (url given if it's missing)
1924 #
1925 # Revision 1.55  2002/02/15 07:27:12  richard
1926 # Oops, precedences around the way w0rng.
1927 #
1928 # Revision 1.54  2002/02/15 07:08:44  richard
1929 #  . Alternate email addresses are now available for users. See the MIGRATION
1930 #    file for info on how to activate the feature.
1931 #
1932 # Revision 1.53  2002/01/22 07:21:13  richard
1933 # . fixed back_bsddb so it passed the journal tests
1934 #
1935 # ... it didn't seem happy using the back_anydbm _open method, which is odd.
1936 # Yet another occurrance of whichdb not being able to recognise older bsddb
1937 # databases. Yadda yadda. Made the HYPERDBDEBUG stuff more sane in the
1938 # process.
1939 #
1940 # Revision 1.52  2002/01/21 16:33:19  rochecompaan
1941 # You can now use the roundup-admin tool to pack the database
1942 #
1943 # Revision 1.51  2002/01/21 03:01:29  richard
1944 # brief docco on the do_journal argument
1945 #
1946 # Revision 1.50  2002/01/19 13:16:04  rochecompaan
1947 # Journal entries for link and multilink properties can now be switched on
1948 # or off.
1949 #
1950 # Revision 1.49  2002/01/16 07:02:57  richard
1951 #  . lots of date/interval related changes:
1952 #    - more relaxed date format for input
1953 #
1954 # Revision 1.48  2002/01/14 06:32:34  richard
1955 #  . #502951 ] adding new properties to old database
1956 #
1957 # Revision 1.47  2002/01/14 02:20:15  richard
1958 #  . changed all config accesses so they access either the instance or the
1959 #    config attriubute on the db. This means that all config is obtained from
1960 #    instance_config instead of the mish-mash of classes. This will make
1961 #    switching to a ConfigParser setup easier too, I hope.
1962 #
1963 # At a minimum, this makes migration a _little_ easier (a lot easier in the
1964 # 0.5.0 switch, I hope!)
1965 #
1966 # Revision 1.46  2002/01/07 10:42:23  richard
1967 # oops
1968 #
1969 # Revision 1.45  2002/01/02 04:18:17  richard
1970 # hyperdb docstrings
1971 #
1972 # Revision 1.44  2002/01/02 02:31:38  richard
1973 # Sorry for the huge checkin message - I was only intending to implement #496356
1974 # but I found a number of places where things had been broken by transactions:
1975 #  . modified ROUNDUPDBSENDMAILDEBUG to be SENDMAILDEBUG and hold a filename
1976 #    for _all_ roundup-generated smtp messages to be sent to.
1977 #  . the transaction cache had broken the roundupdb.Class set() reactors
1978 #  . newly-created author users in the mailgw weren't being committed to the db
1979 #
1980 # Stuff that made it into CHANGES.txt (ie. the stuff I was actually working
1981 # on when I found that stuff :):
1982 #  . #496356 ] Use threading in messages
1983 #  . detectors were being registered multiple times
1984 #  . added tests for mailgw
1985 #  . much better attaching of erroneous messages in the mail gateway
1986 #
1987 # Revision 1.43  2001/12/20 06:13:24  rochecompaan
1988 # Bugs fixed:
1989 #   . Exception handling in hyperdb for strings-that-look-like numbers got
1990 #     lost somewhere
1991 #   . Internet Explorer submits full path for filename - we now strip away
1992 #     the path
1993 # Features added:
1994 #   . Link and multilink properties are now displayed sorted in the cgi
1995 #     interface
1996 #
1997 # Revision 1.42  2001/12/16 10:53:37  richard
1998 # take a copy of the node dict so that the subsequent set
1999 # operation doesn't modify the oldvalues structure
2000 #
2001 # Revision 1.41  2001/12/15 23:47:47  richard
2002 # Cleaned up some bare except statements
2003 #
2004 # Revision 1.40  2001/12/14 23:42:57  richard
2005 # yuck, a gdbm instance tests false :(
2006 # I've left the debugging code in - it should be removed one day if we're ever
2007 # _really_ anal about performace :)
2008 #
2009 # Revision 1.39  2001/12/02 05:06:16  richard
2010 # . We now use weakrefs in the Classes to keep the database reference, so
2011 #   the close() method on the database is no longer needed.
2012 #   I bumped the minimum python requirement up to 2.1 accordingly.
2013 # . #487480 ] roundup-server
2014 # . #487476 ] INSTALL.txt
2015 #
2016 # I also cleaned up the change message / post-edit stuff in the cgi client.
2017 # There's now a clearly marked "TODO: append the change note" where I believe
2018 # the change note should be added there. The "changes" list will obviously
2019 # have to be modified to be a dict of the changes, or somesuch.
2020 #
2021 # More testing needed.
2022 #
2023 # Revision 1.38  2001/12/01 07:17:50  richard
2024 # . We now have basic transaction support! Information is only written to
2025 #   the database when the commit() method is called. Only the anydbm
2026 #   backend is modified in this way - neither of the bsddb backends have been.
2027 #   The mail, admin and cgi interfaces all use commit (except the admin tool
2028 #   doesn't have a commit command, so interactive users can't commit...)
2029 # . Fixed login/registration forwarding the user to the right page (or not,
2030 #   on a failure)
2031 #
2032 # Revision 1.37  2001/11/28 21:55:35  richard
2033 #  . login_action and newuser_action return values were being ignored
2034 #  . Woohoo! Found that bloody re-login bug that was killing the mail
2035 #    gateway.
2036 #  (also a minor cleanup in hyperdb)
2037 #
2038 # Revision 1.36  2001/11/27 03:16:09  richard
2039 # Another place that wasn't handling missing properties.
2040 #
2041 # Revision 1.35  2001/11/22 15:46:42  jhermann
2042 # Added module docstrings to all modules.
2043 #
2044 # Revision 1.34  2001/11/21 04:04:43  richard
2045 # *sigh* more missing value handling
2046 #
2047 # Revision 1.33  2001/11/21 03:40:54  richard
2048 # more new property handling
2049 #
2050 # Revision 1.32  2001/11/21 03:11:28  richard
2051 # Better handling of new properties.
2052 #
2053 # Revision 1.31  2001/11/12 22:01:06  richard
2054 # Fixed issues with nosy reaction and author copies.
2055 #
2056 # Revision 1.30  2001/11/09 10:11:08  richard
2057 #  . roundup-admin now handles all hyperdb exceptions
2058 #
2059 # Revision 1.29  2001/10/27 00:17:41  richard
2060 # Made Class.stringFind() do caseless matching.
2061 #
2062 # Revision 1.28  2001/10/21 04:44:50  richard
2063 # bug #473124: UI inconsistency with Link fields.
2064 #    This also prompted me to fix a fairly long-standing usability issue -
2065 #    that of being able to turn off certain filters.
2066 #
2067 # Revision 1.27  2001/10/20 23:44:27  richard
2068 # Hyperdatabase sorts strings-that-look-like-numbers as numbers now.
2069 #
2070 # Revision 1.26  2001/10/16 03:48:01  richard
2071 # admin tool now complains if a "find" is attempted with a non-link property.
2072 #
2073 # Revision 1.25  2001/10/11 00:17:51  richard
2074 # Reverted a change in hyperdb so the default value for missing property
2075 # values in a create() is None and not '' (the empty string.) This obviously
2076 # breaks CSV import/export - the string 'None' will be created in an
2077 # export/import operation.
2078 #
2079 # Revision 1.24  2001/10/10 03:54:57  richard
2080 # Added database importing and exporting through CSV files.
2081 # Uses the csv module from object-craft for exporting if it's available.
2082 # Requires the csv module for importing.
2083 #
2084 # Revision 1.23  2001/10/09 23:58:10  richard
2085 # Moved the data stringification up into the hyperdb.Class class' get, set
2086 # and create methods. This means that the data is also stringified for the
2087 # journal call, and removes duplication of code from the backends. The
2088 # backend code now only sees strings.
2089 #
2090 # Revision 1.22  2001/10/09 07:25:59  richard
2091 # Added the Password property type. See "pydoc roundup.password" for
2092 # implementation details. Have updated some of the documentation too.
2093 #
2094 # Revision 1.21  2001/10/05 02:23:24  richard
2095 #  . roundup-admin create now prompts for property info if none is supplied
2096 #    on the command-line.
2097 #  . hyperdb Class getprops() method may now return only the mutable
2098 #    properties.
2099 #  . Login now uses cookies, which makes it a whole lot more flexible. We can
2100 #    now support anonymous user access (read-only, unless there's an
2101 #    "anonymous" user, in which case write access is permitted). Login
2102 #    handling has been moved into cgi_client.Client.main()
2103 #  . The "extended" schema is now the default in roundup init.
2104 #  . The schemas have had their page headings modified to cope with the new
2105 #    login handling. Existing installations should copy the interfaces.py
2106 #    file from the roundup lib directory to their instance home.
2107 #  . Incorrectly had a Bizar Software copyright on the cgitb.py module from
2108 #    Ping - has been removed.
2109 #  . Fixed a whole bunch of places in the CGI interface where we should have
2110 #    been returning Not Found instead of throwing an exception.
2111 #  . Fixed a deviation from the spec: trying to modify the 'id' property of
2112 #    an item now throws an exception.
2113 #
2114 # Revision 1.20  2001/10/04 02:12:42  richard
2115 # Added nicer command-line item adding: passing no arguments will enter an
2116 # interactive more which asks for each property in turn. While I was at it, I
2117 # fixed an implementation problem WRT the spec - I wasn't raising a
2118 # ValueError if the key property was missing from a create(). Also added a
2119 # protected=boolean argument to getprops() so we can list only the mutable
2120 # properties (defaults to yes, which lists the immutables).
2121 #
2122 # Revision 1.19  2001/08/29 04:47:18  richard
2123 # Fixed CGI client change messages so they actually include the properties
2124 # changed (again).
2125 #
2126 # Revision 1.18  2001/08/16 07:34:59  richard
2127 # better CGI text searching - but hidden filter fields are disappearing...
2128 #
2129 # Revision 1.17  2001/08/16 06:59:58  richard
2130 # all searches use re now - and they're all case insensitive
2131 #
2132 # Revision 1.16  2001/08/15 23:43:18  richard
2133 # Fixed some isFooTypes that I missed.
2134 # Refactored some code in the CGI code.
2135 #
2136 # Revision 1.15  2001/08/12 06:32:36  richard
2137 # using isinstance(blah, Foo) now instead of isFooType
2138 #
2139 # Revision 1.14  2001/08/07 00:24:42  richard
2140 # stupid typo
2141 #
2142 # Revision 1.13  2001/08/07 00:15:51  richard
2143 # Added the copyright/license notice to (nearly) all files at request of
2144 # Bizar Software.
2145 #
2146 # Revision 1.12  2001/08/02 06:38:17  richard
2147 # Roundupdb now appends "mailing list" information to its messages which
2148 # include the e-mail address and web interface address. Templates may
2149 # override this in their db classes to include specific information (support
2150 # instructions, etc).
2151 #
2152 # Revision 1.11  2001/08/01 04:24:21  richard
2153 # mailgw was assuming certain properties existed on the issues being created.
2154 #
2155 # Revision 1.10  2001/07/30 02:38:31  richard
2156 # get() now has a default arg - for migration only.
2157 #
2158 # Revision 1.9  2001/07/29 09:28:23  richard
2159 # Fixed sorting by clicking on column headings.
2160 #
2161 # Revision 1.8  2001/07/29 08:27:40  richard
2162 # Fixed handling of passed-in values in form elements (ie. during a
2163 # drill-down)
2164 #
2165 # Revision 1.7  2001/07/29 07:01:39  richard
2166 # Added vim command to all source so that we don't get no steenkin' tabs :)
2167 #
2168 # Revision 1.6  2001/07/29 05:36:14  richard
2169 # Cleanup of the link label generation.
2170 #
2171 # Revision 1.5  2001/07/29 04:05:37  richard
2172 # Added the fabricated property "id".
2173 #
2174 # Revision 1.4  2001/07/27 06:25:35  richard
2175 # Fixed some of the exceptions so they're the right type.
2176 # Removed the str()-ification of node ids so we don't mask oopsy errors any
2177 # more.
2178 #
2179 # Revision 1.3  2001/07/27 05:17:14  richard
2180 # just some comments
2181 #
2182 # Revision 1.2  2001/07/22 12:09:32  richard
2183 # Final commit of Grande Splite
2184 #
2185 # Revision 1.1  2001/07/22 11:58:35  richard
2186 # More Grande Splite
2187 #
2188 #
2189 # vim: set filetype=python ts=4 sw=4 et si