Code

implemented multilink changes (and a unit test)
[roundup.git] / roundup / backends / back_gadfly.py
1 # $Id: back_gadfly.py,v 1.5 2002-08-23 05:33:32 richard Exp $
2 __doc__ = '''
3 About Gadfly
4 ============
6 Gadfly  is  a  collection  of  python modules that provides relational
7 database  functionality  entirely implemented in Python. It supports a
8 subset  of  the intergalactic standard RDBMS Structured Query Language
9 SQL.
12 Basic Structure
13 ===============
15 We map roundup classes to relational tables. Automatically detect schema
16 changes and modify the gadfly table schemas appropriately. Multilinks
17 (which represent a many-to-many relationship) are handled through
18 intermediate tables.
20 Journals are stored adjunct to the per-class tables.
22 Table names and columns have "_" prepended so the names can't
23 clash with restricted names (like "order"). Retirement is determined by the
24 __retired__ column being true.
26 All columns are defined as VARCHAR, since it really doesn't matter what
27 type they're defined as. We stuff all kinds of data in there ;) [as long as
28 it's marshallable, gadfly doesn't care]
31 Additional Instance Requirements
32 ================================
34 The instance configuration must specify where the database is. It does this
35 with GADFLY_DATABASE, which is used as the arguments to the gadfly.gadfly()
36 method:
38 Using an on-disk database directly (not a good idea):
39   GADFLY_DATABASE = (database name, directory)
41 Using a network database (much better idea):
42   GADFLY_DATABASE = (policy, password, address, port)
44 Because multiple accesses directly to a gadfly database aren't handled, but
45 multiple network accesses are, it's strongly advised that the latter setup be
46 used.
48 '''
50 # standard python modules
51 import sys, os, time, re, errno, weakref, copy
53 # roundup modules
54 from roundup import hyperdb, date, password, roundupdb, security
55 from roundup.hyperdb import String, Password, Date, Interval, Link, \
56     Multilink, DatabaseError, Boolean, Number
58 # the all-important gadfly :)
59 import gadfly
60 import gadfly.client
61 import gadfly.database
63 # support
64 from blobfiles import FileStorage
65 from roundup.indexer import Indexer
66 from sessions import Sessions
68 class Database(FileStorage, hyperdb.Database, roundupdb.Database):
69     # flag to set on retired entries
70     RETIRED_FLAG = '__hyperdb_retired'
72     def __init__(self, config, journaltag=None):
73         ''' Open the database and load the schema from it.
74         '''
75         self.config, self.journaltag = config, journaltag
76         self.dir = config.DATABASE
77         self.classes = {}
78         self.indexer = Indexer(self.dir)
79         self.sessions = Sessions(self.config)
80         self.security = security.Security(self)
82         # additional transaction support for external files and the like
83         self.transactions = []
85         db = config.GADFLY_DATABASE
86         if len(db) == 2:
87             # ensure files are group readable and writable
88             os.umask(0002)
89             try:
90                 self.conn = gadfly.gadfly(*db)
91             except IOError, error:
92                 if error.errno != errno.ENOENT:
93                     raise
94                 self.database_schema = {}
95                 self.conn = gadfly.gadfly()
96                 self.conn.startup(*db)
97                 cursor = self.conn.cursor()
98                 cursor.execute('create table schema (schema varchar)')
99                 cursor.execute('create table ids (name varchar, num integer)')
100             else:
101                 cursor = self.conn.cursor()
102                 cursor.execute('select schema from schema')
103                 self.database_schema = cursor.fetchone()[0]
104         else:
105             self.conn = gadfly.client.gfclient(*db)
106             cursor = self.conn.cursor()
107             cursor.execute('select schema from schema')
108             self.database_schema = cursor.fetchone()[0]
110     def __repr__(self):
111         return '<radfly 0x%x>'%id(self)
113     def post_init(self):
114         ''' Called once the schema initialisation has finished.
116             We should now confirm that the schema defined by our "classes"
117             attribute actually matches the schema in the database.
118         '''
119         # now detect changes in the schema
120         for classname, spec in self.classes.items():
121             if self.database_schema.has_key(classname):
122                 dbspec = self.database_schema[classname]
123                 self.update_class(spec, dbspec)
124                 self.database_schema[classname] = spec.schema()
125             else:
126                 self.create_class(spec)
127                 self.database_schema[classname] = spec.schema()
129         for classname in self.database_schema.keys():
130             if not self.classes.has_key(classname):
131                 self.drop_class(classname)
133         # update the database version of the schema
134         cursor = self.conn.cursor()
135         cursor.execute('delete from schema')
136         cursor.execute('insert into schema values (?)', (self.database_schema,))
138         # reindex the db if necessary
139         if self.indexer.should_reindex():
140             self.reindex()
142         # commit
143         self.conn.commit()
145     def reindex(self):
146         for klass in self.classes.values():
147             for nodeid in klass.list():
148                 klass.index(nodeid)
149         self.indexer.save_index()
151     def determine_columns(self, spec):
152         ''' Figure the column names and multilink properties from the spec
153         '''
154         cols = []
155         mls = []
156         # add the multilinks separately
157         for col, prop in spec.properties.items():
158             if isinstance(prop, Multilink):
159                 mls.append(col)
160             else:
161                 cols.append('_'+col)
162         cols.sort()
163         return cols, mls
165     def update_class(self, spec, dbspec):
166         ''' Determine the differences between the current spec and the
167             database version of the spec, and update where necessary
169             NOTE that this doesn't work for adding/deleting properties!
170              ... until gadfly grows an ALTER TABLE command, it's not going to!
171         '''
172         spec_schema = spec.schema()
173         if spec_schema == dbspec:
174             return
175         if __debug__:
176             print >>hyperdb.DEBUG, 'update_class FIRING'
178         # key property changed?
179         if dbspec[0] != spec_schema[0]:
180             if __debug__:
181                 print >>hyperdb.DEBUG, 'update_class setting keyprop', `spec[0]`
182             # XXX turn on indexing for the key property
184         # dict 'em up
185         spec_propnames,spec_props = [],{}
186         for propname,prop in spec_schema[1]:
187             spec_propnames.append(propname)
188             spec_props[propname] = prop
189         dbspec_propnames,dbspec_props = [],{}
190         for propname,prop in dbspec[1]:
191             dbspec_propnames.append(propname)
192             dbspec_props[propname] = prop
194         # we're going to need one of these
195         cursor = self.conn.cursor()
197         # now compare
198         for propname in spec_propnames:
199             prop = spec_props[propname]
200             if __debug__:
201                 print >>hyperdb.DEBUG, 'update_class ...', `prop`
202             if dbspec_props.has_key(propname) and prop==dbspec_props[propname]:
203                 continue
204             if __debug__:
205                 print >>hyperdb.DEBUG, 'update_class', `prop`
207             if not dbspec_props.has_key(propname):
208                 # add the property
209                 if isinstance(prop, Multilink):
210                     sql = 'create table %s_%s (linkid varchar, nodeid '\
211                         'varchar)'%(spec.classname, prop)
212                     if __debug__:
213                         print >>hyperdb.DEBUG, 'update_class', (self, sql)
214                     cursor.execute(sql)
215                 else:
216                     # XXX gadfly doesn't have an ALTER TABLE command
217                     raise NotImplementedError
218                     sql = 'alter table _%s add column (_%s varchar)'%(
219                         spec.classname, propname)
220                     if __debug__:
221                         print >>hyperdb.DEBUG, 'update_class', (self, sql)
222                     cursor.execute(sql)
223             else:
224                 # modify the property
225                 if __debug__:
226                     print >>hyperdb.DEBUG, 'update_class NOOP'
227                 pass  # NOOP in gadfly
229         # and the other way - only worry about deletions here
230         for propname in dbspec_propnames:
231             prop = dbspec_props[propname]
232             if spec_props.has_key(propname):
233                 continue
234             if __debug__:
235                 print >>hyperdb.DEBUG, 'update_class', `prop`
237             # delete the property
238             if isinstance(prop, Multilink):
239                 sql = 'drop table %s_%s'%(spec.classname, prop)
240                 if __debug__:
241                     print >>hyperdb.DEBUG, 'update_class', (self, sql)
242                 cursor.execute(sql)
243             else:
244                 # XXX gadfly doesn't have an ALTER TABLE command
245                 raise NotImplementedError
246                 sql = 'alter table _%s delete column _%s'%(spec.classname,
247                     propname)
248                 if __debug__:
249                     print >>hyperdb.DEBUG, 'update_class', (self, sql)
250                 cursor.execute(sql)
252     def create_class(self, spec):
253         ''' Create a database table according to the given spec.
254         '''
255         cols, mls = self.determine_columns(spec)
257         # add on our special columns
258         cols.append('id')
259         cols.append('__retired__')
261         cursor = self.conn.cursor()
263         # create the base table
264         cols = ','.join(['%s varchar'%x for x in cols])
265         sql = 'create table _%s (%s)'%(spec.classname, cols)
266         if __debug__:
267             print >>hyperdb.DEBUG, 'create_class', (self, sql)
268         cursor.execute(sql)
270         # journal table
271         cols = ','.join(['%s varchar'%x
272             for x in 'nodeid date tag action params'.split()])
273         sql = 'create table %s__journal (%s)'%(spec.classname, cols)
274         if __debug__:
275             print >>hyperdb.DEBUG, 'create_class', (self, sql)
276         cursor.execute(sql)
278         # now create the multilink tables
279         for ml in mls:
280             sql = 'create table %s_%s (linkid varchar, nodeid varchar)'%(
281                 spec.classname, ml)
282             if __debug__:
283                 print >>hyperdb.DEBUG, 'create_class', (self, sql)
284             cursor.execute(sql)
286         # ID counter
287         sql = 'insert into ids (name, num) values (?,?)'
288         vals = (spec.classname, 1)
289         if __debug__:
290             print >>hyperdb.DEBUG, 'create_class', (self, sql, vals)
291         cursor.execute(sql, vals)
293     def drop_class(self, spec):
294         ''' Drop the given table from the database.
296             Drop the journal and multilink tables too.
297         '''
298         # figure the multilinks
299         mls = []
300         for col, prop in spec.properties.items():
301             if isinstance(prop, Multilink):
302                 mls.append(col)
303         cursor = self.conn.cursor()
305         sql = 'drop table _%s'%spec.classname
306         if __debug__:
307             print >>hyperdb.DEBUG, 'drop_class', (self, sql)
308         cursor.execute(sql)
310         sql = 'drop table %s__journal'%spec.classname
311         if __debug__:
312             print >>hyperdb.DEBUG, 'drop_class', (self, sql)
313         cursor.execute(sql)
315         for ml in mls:
316             sql = 'drop table %s_%s'%(spec.classname, ml)
317             if __debug__:
318                 print >>hyperdb.DEBUG, 'drop_class', (self, sql)
319             cursor.execute(sql)
321     #
322     # Classes
323     #
324     def __getattr__(self, classname):
325         ''' A convenient way of calling self.getclass(classname).
326         '''
327         if self.classes.has_key(classname):
328             if __debug__:
329                 print >>hyperdb.DEBUG, '__getattr__', (self, classname)
330             return self.classes[classname]
331         raise AttributeError, classname
333     def addclass(self, cl):
334         ''' Add a Class to the hyperdatabase.
335         '''
336         if __debug__:
337             print >>hyperdb.DEBUG, 'addclass', (self, cl)
338         cn = cl.classname
339         if self.classes.has_key(cn):
340             raise ValueError, cn
341         self.classes[cn] = cl
343     def getclasses(self):
344         ''' Return a list of the names of all existing classes.
345         '''
346         if __debug__:
347             print >>hyperdb.DEBUG, 'getclasses', (self,)
348         l = self.classes.keys()
349         l.sort()
350         return l
352     def getclass(self, classname):
353         '''Get the Class object representing a particular class.
355         If 'classname' is not a valid class name, a KeyError is raised.
356         '''
357         if __debug__:
358             print >>hyperdb.DEBUG, 'getclass', (self, classname)
359         return self.classes[classname]
361     def clear(self):
362         ''' Delete all database contents.
364             Note: I don't commit here, which is different behaviour to the
365             "nuke from orbit" behaviour in the *dbms.
366         '''
367         if __debug__:
368             print >>hyperdb.DEBUG, 'clear', (self,)
369         cursor = self.conn.cursor()
370         for cn in self.classes.keys():
371             sql = 'delete from _%s'%cn
372             if __debug__:
373                 print >>hyperdb.DEBUG, 'clear', (self, sql)
374             cursor.execute(sql)
376     #
377     # Node IDs
378     #
379     def newid(self, classname):
380         ''' Generate a new id for the given class
381         '''
382         # get the next ID
383         cursor = self.conn.cursor()
384         sql = 'select num from ids where name=?'
385         if __debug__:
386             print >>hyperdb.DEBUG, 'newid', (self, sql, classname)
387         cursor.execute(sql, (classname, ))
388         newid = cursor.fetchone()[0]
390         # update the counter
391         sql = 'update ids set num=? where name=?'
392         vals = (newid+1, classname)
393         if __debug__:
394             print >>hyperdb.DEBUG, 'newid', (self, sql, vals)
395         cursor.execute(sql, vals)
397         # return as string
398         return str(newid)
400     def setid(self, classname, setid):
401         ''' Set the id counter: used during import of database
402         '''
403         cursor = self.conn.cursor()
404         sql = 'update ids set num=? where name=?'
405         vals = (setid, spec.classname)
406         if __debug__:
407             print >>hyperdb.DEBUG, 'setid', (self, sql, vals)
408         cursor.execute(sql, vals)
410     #
411     # Nodes
412     #
414     def addnode(self, classname, nodeid, node):
415         ''' Add the specified node to its class's db.
416         '''
417         if __debug__:
418             print >>hyperdb.DEBUG, 'addnode', (self, classname, nodeid, node)
419         # gadfly requires values for all non-multilink columns
420         cl = self.classes[classname]
421         cols, mls = self.determine_columns(cl)
423         # default the non-multilink columns
424         for col, prop in cl.properties.items():
425             if not isinstance(col, Multilink):
426                 if not node.has_key(col):
427                     node[col] = None
429         node = self.serialise(classname, node)
431         # make sure the ordering is correct for column name -> column value
432         vals = tuple([node[col[1:]] for col in cols]) + (nodeid, 0)
433         s = ','.join(['?' for x in cols]) + ',?,?'
434         cols = ','.join(cols) + ',id,__retired__'
436         # perform the inserts
437         cursor = self.conn.cursor()
438         sql = 'insert into _%s (%s) values (%s)'%(classname, cols, s)
439         if __debug__:
440             print >>hyperdb.DEBUG, 'addnode', (self, sql, vals)
441         cursor.execute(sql, vals)
443         # insert the multilink rows
444         for col in mls:
445             t = '%s_%s'%(classname, col)
446             for entry in node[col]:
447                 sql = 'insert into %s (linkid, nodeid) values (?,?)'%t
448                 vals = (entry, nodeid)
449                 if __debug__:
450                     print >>hyperdb.DEBUG, 'addnode', (self, sql, vals)
451                 cursor.execute(sql, vals)
453         # make sure we do the commit-time extra stuff for this node
454         self.transactions.append((self.doSaveNode, (classname, nodeid, node)))
456     def setnode(self, classname, nodeid, node, multilink_changes):
457         ''' Change the specified node.
458         '''
459         if __debug__:
460             print >>hyperdb.DEBUG, 'setnode', (self, classname, nodeid, node)
461         node = self.serialise(classname, node)
463         cl = self.classes[classname]
464         cols = []
465         mls = []
466         # add the multilinks separately
467         for col in node.keys():
468             prop = cl.properties[col]
469             if isinstance(prop, Multilink):
470                 mls.append(col)
471             else:
472                 cols.append('_'+col)
473         cols.sort()
475         # make sure the ordering is correct for column name -> column value
476         vals = tuple([node[col[1:]] for col in cols])
477         s = ','.join(['%s=?'%x for x in cols])
478         cols = ','.join(cols)
480         # perform the update
481         cursor = self.conn.cursor()
482         sql = 'update _%s set %s'%(classname, s)
483         if __debug__:
484             print >>hyperdb.DEBUG, 'setnode', (self, sql, vals)
485         cursor.execute(sql, vals)
487         # now the fun bit, updating the multilinks ;)
488         for col, (add, remove) in multilink_changes.items():
489             tn = '%s_%s'%(classname, col)
490             if add:
491                 sql = 'insert into %s (nodeid, linkid) values (?,?)'%tn
492                 vals = [(nodeid, addid) for addid in add]
493                 if __debug__:
494                     print >>hyperdb.DEBUG, 'setnode (add)', (self, sql, vals)
495                 cursor.execute(sql, vals)
496             if remove:
497                 sql = 'delete from %s where nodeid=? and linkid=?'%tn
498                 vals = [(nodeid, removeid) for removeid in remove]
499                 if __debug__:
500                     print >>hyperdb.DEBUG, 'setnode (rem)', (self, sql, vals)
501                 cursor.execute(sql, vals)
503         # make sure we do the commit-time extra stuff for this node
504         self.transactions.append((self.doSaveNode, (classname, nodeid, node)))
506     def getnode(self, classname, nodeid):
507         ''' Get a node from the database.
508         '''
509         if __debug__:
510             print >>hyperdb.DEBUG, 'getnode', (self, classname, nodeid)
511         # figure the columns we're fetching
512         cl = self.classes[classname]
513         cols, mls = self.determine_columns(cl)
514         scols = ','.join(cols)
516         # perform the basic property fetch
517         cursor = self.conn.cursor()
518         sql = 'select %s from _%s where id=?'%(scols, classname)
519         if __debug__:
520             print >>hyperdb.DEBUG, 'getnode', (self, sql, nodeid)
521         cursor.execute(sql, (nodeid,))
522         try:
523             values = cursor.fetchone()
524         except gadfly.database.error, message:
525             if message == 'no more results':
526                 raise IndexError, 'no such %s node %s'%(classname, nodeid)
527             raise
529         # make up the node
530         node = {}
531         for col in range(len(cols)):
532             node[cols[col][1:]] = values[col]
534         # now the multilinks
535         for col in mls:
536             # get the link ids
537             sql = 'select linkid from %s_%s where nodeid=?'%(classname, col)
538             if __debug__:
539                 print >>hyperdb.DEBUG, 'getnode', (self, sql, nodeid)
540             cursor.execute(sql, (nodeid,))
541             # extract the first column from the result
542             node[col] = [x[0] for x in cursor.fetchall()]
544         return self.unserialise(classname, node)
546     def destroynode(self, classname, nodeid):
547         '''Remove a node from the database. Called exclusively by the
548            destroy() method on Class.
549         '''
550         if __debug__:
551             print >>hyperdb.DEBUG, 'destroynode', (self, classname, nodeid)
553         # make sure the node exists
554         if not self.hasnode(classname, nodeid):
555             raise IndexError, '%s has no node %s'%(classname, nodeid)
557         # see if there's any obvious commit actions that we should get rid of
558         for entry in self.transactions[:]:
559             if entry[1][:2] == (classname, nodeid):
560                 self.transactions.remove(entry)
562         # now do the SQL
563         cursor = self.conn.cursor()
564         sql = 'delete from _%s where id=?'%(classname)
565         if __debug__:
566             print >>hyperdb.DEBUG, 'destroynode', (self, sql, nodeid)
567         cursor.execute(sql, (nodeid,))
569     def serialise(self, classname, node):
570         '''Copy the node contents, converting non-marshallable data into
571            marshallable data.
572         '''
573         if __debug__:
574             print >>hyperdb.DEBUG, 'serialise', classname, node
575         properties = self.getclass(classname).getprops()
576         d = {}
577         for k, v in node.items():
578             # if the property doesn't exist, or is the "retired" flag then
579             # it won't be in the properties dict
580             if not properties.has_key(k):
581                 d[k] = v
582                 continue
584             # get the property spec
585             prop = properties[k]
587             if isinstance(prop, Password):
588                 d[k] = str(v)
589             elif isinstance(prop, Date) and v is not None:
590                 d[k] = v.serialise()
591             elif isinstance(prop, Interval) and v is not None:
592                 d[k] = v.serialise()
593             else:
594                 d[k] = v
595         return d
597     def unserialise(self, classname, node):
598         '''Decode the marshalled node data
599         '''
600         if __debug__:
601             print >>hyperdb.DEBUG, 'unserialise', classname, node
602         properties = self.getclass(classname).getprops()
603         d = {}
604         for k, v in node.items():
605             # if the property doesn't exist, or is the "retired" flag then
606             # it won't be in the properties dict
607             if not properties.has_key(k):
608                 d[k] = v
609                 continue
611             # get the property spec
612             prop = properties[k]
614             if isinstance(prop, Date) and v is not None:
615                 d[k] = date.Date(v)
616             elif isinstance(prop, Interval) and v is not None:
617                 d[k] = date.Interval(v)
618             elif isinstance(prop, Password):
619                 p = password.Password()
620                 p.unpack(v)
621                 d[k] = p
622             else:
623                 d[k] = v
624         return d
626     def hasnode(self, classname, nodeid):
627         ''' Determine if the database has a given node.
628         '''
629         cursor = self.conn.cursor()
630         sql = 'select count(*) from _%s where id=?'%classname
631         if __debug__:
632             print >>hyperdb.DEBUG, 'hasnode', (self, sql, nodeid)
633         cursor.execute(sql, (nodeid,))
634         return cursor.fetchone()[0]
636     def countnodes(self, classname):
637         ''' Count the number of nodes that exist for a particular Class.
638         '''
639         cursor = self.conn.cursor()
640         sql = 'select count(*) from _%s'%classname
641         if __debug__:
642             print >>hyperdb.DEBUG, 'countnodes', (self, sql)
643         cursor.execute(sql)
644         return cursor.fetchone()[0]
646     def getnodeids(self, classname, retired=0):
647         ''' Retrieve all the ids of the nodes for a particular Class.
649             Set retired=None to get all nodes. Otherwise it'll get all the 
650             retired or non-retired nodes, depending on the flag.
651         '''
652         cursor = self.conn.cursor()
653         # flip the sense of the flag if we don't want all of them
654         if retired is not None:
655             retired = not retired
656         sql = 'select id from _%s where __retired__ <> ?'%classname
657         if __debug__:
658             print >>hyperdb.DEBUG, 'getnodeids', (self, sql, retired)
659         cursor.execute(sql, (retired,))
660         return [x[0] for x in cursor.fetchall()]
662     def addjournal(self, classname, nodeid, action, params):
663         ''' Journal the Action
664         'action' may be:
666             'create' or 'set' -- 'params' is a dictionary of property values
667             'link' or 'unlink' -- 'params' is (classname, nodeid, propname)
668             'retire' -- 'params' is None
669         '''
670         if isinstance(params, type({})):
671             if params.has_key('creator'):
672                 journaltag = self.user.get(params['creator'], 'username')
673                 del params['creator']
674             else:
675                 journaltag = self.journaltag
676             if params.has_key('created'):
677                 journaldate = params['created'].serialise()
678                 del params['created']
679             else:
680                 journaldate = date.Date().serialise()
681             if params.has_key('activity'):
682                 del params['activity']
684             # serialise the parameters now
685             if action in ('set', 'create'):
686                 params = self.serialise(classname, params)
687         else:
688             journaltag = self.journaltag
689             journaldate = date.Date().serialise()
691         # create the journal entry
692         cols = ','.join('nodeid date tag action params'.split())
693         entry = (nodeid, journaldate, journaltag, action, params)
695         if __debug__:
696             print >>hyperdb.DEBUG, 'doSaveJournal', entry
698         # do the insert
699         cursor = self.conn.cursor()
700         sql = 'insert into %s__journal (%s) values (?,?,?,?,?)'%(classname,
701             cols)
702         if __debug__:
703             print >>hyperdb.DEBUG, 'addjournal', (self, sql, entry)
704         cursor.execute(sql, entry)
706     def getjournal(self, classname, nodeid):
707         ''' get the journal for id
708         '''
709         # make sure the node exists
710         if not self.hasnode(classname, nodeid):
711             raise IndexError, '%s has no node %s'%(classname, nodeid)
713         # now get the journal entries
714         cols = ','.join('nodeid date tag action params'.split())
715         cursor = self.conn.cursor()
716         sql = 'select %s from %s__journal where nodeid=?'%(cols, classname)
717         if __debug__:
718             print >>hyperdb.DEBUG, 'getjournal', (self, sql, nodeid)
719         cursor.execute(sql, (nodeid,))
720         res = []
721         for nodeid, date_stamp, user, action, params in cursor.fetchall():
722             res.append((nodeid, date.Date(date_stamp), user, action, params))
723         return res
725     def pack(self, pack_before):
726         ''' Delete all journal entries except "create" before 'pack_before'.
727         '''
728         # get a 'yyyymmddhhmmss' version of the date
729         date_stamp = pack_before.serialise()
731         # do the delete
732         cursor = self.conn.cursor()
733         for classname in self.classes.keys():
734             sql = "delete from %s__journal where date<? and "\
735                 "action<>'create'"%classname
736             if __debug__:
737                 print >>hyperdb.DEBUG, 'pack', (self, sql, date_stamp)
738             cursor.execute(sql, (date_stamp,))
740     def commit(self):
741         ''' Commit the current transactions.
743         Save all data changed since the database was opened or since the
744         last commit() or rollback().
745         '''
746         if __debug__:
747             print >>hyperdb.DEBUG, 'commit', (self,)
749         # commit gadfly
750         self.conn.commit()
752         # now, do all the other transaction stuff
753         reindex = {}
754         for method, args in self.transactions:
755             reindex[method(*args)] = 1
757         # reindex the nodes that request it
758         for classname, nodeid in filter(None, reindex.keys()):
759             print >>hyperdb.DEBUG, 'commit.reindex', (classname, nodeid)
760             self.getclass(classname).index(nodeid)
762         # save the indexer state
763         self.indexer.save_index()
765         # clear out the transactions
766         self.transactions = []
768     def rollback(self):
769         ''' Reverse all actions from the current transaction.
771         Undo all the changes made since the database was opened or the last
772         commit() or rollback() was performed.
773         '''
774         if __debug__:
775             print >>hyperdb.DEBUG, 'rollback', (self,)
777         # roll back gadfly
778         self.conn.rollback()
780         # roll back "other" transaction stuff
781         for method, args in self.transactions:
782             # delete temporary files
783             if method == self.doStoreFile:
784                 self.rollbackStoreFile(*args)
785         self.transactions = []
787     def doSaveNode(self, classname, nodeid, node):
788         ''' dummy that just generates a reindex event
789         '''
790         # return the classname, nodeid so we reindex this content
791         return (classname, nodeid)
794 # The base Class class
796 class Class(hyperdb.Class):
797     ''' The handle to a particular class of nodes in a hyperdatabase.
798         
799         All methods except __repr__ and getnode must be implemented by a
800         concrete backend Class.
801     '''
803     def __init__(self, db, classname, **properties):
804         '''Create a new class with a given name and property specification.
806         'classname' must not collide with the name of an existing class,
807         or a ValueError is raised.  The keyword arguments in 'properties'
808         must map names to property objects, or a TypeError is raised.
809         '''
810         if (properties.has_key('creation') or properties.has_key('activity')
811                 or properties.has_key('creator')):
812             raise ValueError, '"creation", "activity" and "creator" are '\
813                 'reserved'
815         self.classname = classname
816         self.properties = properties
817         self.db = weakref.proxy(db)       # use a weak ref to avoid circularity
818         self.key = ''
820         # should we journal changes (default yes)
821         self.do_journal = 1
823         # do the db-related init stuff
824         db.addclass(self)
826         self.auditors = {'create': [], 'set': [], 'retire': []}
827         self.reactors = {'create': [], 'set': [], 'retire': []}
829     def schema(self):
830         ''' A dumpable version of the schema that we can store in the
831             database
832         '''
833         return (self.key, [(x, repr(y)) for x,y in self.properties.items()])
835     def enableJournalling(self):
836         '''Turn journalling on for this class
837         '''
838         self.do_journal = 1
840     def disableJournalling(self):
841         '''Turn journalling off for this class
842         '''
843         self.do_journal = 0
845     # Editing nodes:
846     def create(self, **propvalues):
847         ''' Create a new node of this class and return its id.
849         The keyword arguments in 'propvalues' map property names to values.
851         The values of arguments must be acceptable for the types of their
852         corresponding properties or a TypeError is raised.
853         
854         If this class has a key property, it must be present and its value
855         must not collide with other key strings or a ValueError is raised.
856         
857         Any other properties on this class that are missing from the
858         'propvalues' dictionary are set to None.
859         
860         If an id in a link or multilink property does not refer to a valid
861         node, an IndexError is raised.
862         '''
863         if propvalues.has_key('id'):
864             raise KeyError, '"id" is reserved'
866         if self.db.journaltag is None:
867             raise DatabaseError, 'Database open read-only'
869         if propvalues.has_key('creation') or propvalues.has_key('activity'):
870             raise KeyError, '"creation" and "activity" are reserved'
872         self.fireAuditors('create', None, propvalues)
874         # new node's id
875         newid = self.db.newid(self.classname)
877         # validate propvalues
878         num_re = re.compile('^\d+$')
879         for key, value in propvalues.items():
880             if key == self.key:
881                 try:
882                     self.lookup(value)
883                 except KeyError:
884                     pass
885                 else:
886                     raise ValueError, 'node with key "%s" exists'%value
888             # try to handle this property
889             try:
890                 prop = self.properties[key]
891             except KeyError:
892                 raise KeyError, '"%s" has no property "%s"'%(self.classname,
893                     key)
895             if value is not None and isinstance(prop, Link):
896                 if type(value) != type(''):
897                     raise ValueError, 'link value must be String'
898                 link_class = self.properties[key].classname
899                 # if it isn't a number, it's a key
900                 if not num_re.match(value):
901                     try:
902                         value = self.db.classes[link_class].lookup(value)
903                     except (TypeError, KeyError):
904                         raise IndexError, 'new property "%s": %s not a %s'%(
905                             key, value, link_class)
906                 elif not self.db.getclass(link_class).hasnode(value):
907                     raise IndexError, '%s has no node %s'%(link_class, value)
909                 # save off the value
910                 propvalues[key] = value
912                 # register the link with the newly linked node
913                 if self.do_journal and self.properties[key].do_journal:
914                     self.db.addjournal(link_class, value, 'link',
915                         (self.classname, newid, key))
917             elif isinstance(prop, Multilink):
918                 if type(value) != type([]):
919                     raise TypeError, 'new property "%s" not a list of ids'%key
921                 # clean up and validate the list of links
922                 link_class = self.properties[key].classname
923                 l = []
924                 for entry in value:
925                     if type(entry) != type(''):
926                         raise ValueError, '"%s" link value (%s) must be '\
927                             'String'%(key, value)
928                     # if it isn't a number, it's a key
929                     if not num_re.match(entry):
930                         try:
931                             entry = self.db.classes[link_class].lookup(entry)
932                         except (TypeError, KeyError):
933                             raise IndexError, 'new property "%s": %s not a %s'%(
934                                 key, entry, self.properties[key].classname)
935                     l.append(entry)
936                 value = l
937                 propvalues[key] = value
939                 # handle additions
940                 for nodeid in value:
941                     if not self.db.getclass(link_class).hasnode(nodeid):
942                         raise IndexError, '%s has no node %s'%(link_class,
943                             nodeid)
944                     # register the link with the newly linked node
945                     if self.do_journal and self.properties[key].do_journal:
946                         self.db.addjournal(link_class, nodeid, 'link',
947                             (self.classname, newid, key))
949             elif isinstance(prop, String):
950                 if type(value) != type(''):
951                     raise TypeError, 'new property "%s" not a string'%key
953             elif isinstance(prop, Password):
954                 if not isinstance(value, password.Password):
955                     raise TypeError, 'new property "%s" not a Password'%key
957             elif isinstance(prop, Date):
958                 if value is not None and not isinstance(value, date.Date):
959                     raise TypeError, 'new property "%s" not a Date'%key
961             elif isinstance(prop, Interval):
962                 if value is not None and not isinstance(value, date.Interval):
963                     raise TypeError, 'new property "%s" not an Interval'%key
965             elif value is not None and isinstance(prop, Number):
966                 try:
967                     float(value)
968                 except ValueError:
969                     raise TypeError, 'new property "%s" not numeric'%key
971             elif value is not None and isinstance(prop, Boolean):
972                 try:
973                     int(value)
974                 except ValueError:
975                     raise TypeError, 'new property "%s" not boolean'%key
977         # make sure there's data where there needs to be
978         for key, prop in self.properties.items():
979             if propvalues.has_key(key):
980                 continue
981             if key == self.key:
982                 raise ValueError, 'key property "%s" is required'%key
983             if isinstance(prop, Multilink):
984                 propvalues[key] = []
985             else:
986                 propvalues[key] = None
988         # done
989         self.db.addnode(self.classname, newid, propvalues)
990         if self.do_journal:
991             self.db.addjournal(self.classname, newid, 'create', propvalues)
993         self.fireReactors('create', newid, None)
995         return newid
997     _marker = []
998     def get(self, nodeid, propname, default=_marker, cache=1):
999         '''Get the value of a property on an existing node of this class.
1001         'nodeid' must be the id of an existing node of this class or an
1002         IndexError is raised.  'propname' must be the name of a property
1003         of this class or a KeyError is raised.
1005         'cache' indicates whether the transaction cache should be queried
1006         for the node. If the node has been modified and you need to
1007         determine what its values prior to modification are, you need to
1008         set cache=0.
1009         '''
1010         if propname == 'id':
1011             return nodeid
1013         if propname == 'creation':
1014             if not self.do_journal:
1015                 raise ValueError, 'Journalling is disabled for this class'
1016             journal = self.db.getjournal(self.classname, nodeid)
1017             if journal:
1018                 return self.db.getjournal(self.classname, nodeid)[0][1]
1019             else:
1020                 # on the strange chance that there's no journal
1021                 return date.Date()
1022         if propname == 'activity':
1023             if not self.do_journal:
1024                 raise ValueError, 'Journalling is disabled for this class'
1025             journal = self.db.getjournal(self.classname, nodeid)
1026             if journal:
1027                 return self.db.getjournal(self.classname, nodeid)[-1][1]
1028             else:
1029                 # on the strange chance that there's no journal
1030                 return date.Date()
1031         if propname == 'creator':
1032             if not self.do_journal:
1033                 raise ValueError, 'Journalling is disabled for this class'
1034             journal = self.db.getjournal(self.classname, nodeid)
1035             if journal:
1036                 name = self.db.getjournal(self.classname, nodeid)[0][2]
1037             else:
1038                 return None
1039             return self.db.user.lookup(name)
1041         # get the property (raises KeyErorr if invalid)
1042         prop = self.properties[propname]
1044         # get the node's dict
1045         d = self.db.getnode(self.classname, nodeid) #, cache=cache)
1047         if not d.has_key(propname):
1048             if default is self._marker:
1049                 if isinstance(prop, Multilink):
1050                     return []
1051                 else:
1052                     return None
1053             else:
1054                 return default
1056         return d[propname]
1058     def getnode(self, nodeid, cache=1):
1059         ''' Return a convenience wrapper for the node.
1061         'nodeid' must be the id of an existing node of this class or an
1062         IndexError is raised.
1064         'cache' indicates whether the transaction cache should be queried
1065         for the node. If the node has been modified and you need to
1066         determine what its values prior to modification are, you need to
1067         set cache=0.
1068         '''
1069         return Node(self, nodeid, cache=cache)
1071     def set(self, nodeid, **propvalues):
1072         '''Modify a property on an existing node of this class.
1073         
1074         'nodeid' must be the id of an existing node of this class or an
1075         IndexError is raised.
1077         Each key in 'propvalues' must be the name of a property of this
1078         class or a KeyError is raised.
1080         All values in 'propvalues' must be acceptable types for their
1081         corresponding properties or a TypeError is raised.
1083         If the value of the key property is set, it must not collide with
1084         other key strings or a ValueError is raised.
1086         If the value of a Link or Multilink property contains an invalid
1087         node id, a ValueError is raised.
1088         '''
1089         if not propvalues:
1090             return propvalues
1092         if propvalues.has_key('creation') or propvalues.has_key('activity'):
1093             raise KeyError, '"creation" and "activity" are reserved'
1095         if propvalues.has_key('id'):
1096             raise KeyError, '"id" is reserved'
1098         if self.db.journaltag is None:
1099             raise DatabaseError, 'Database open read-only'
1101         self.fireAuditors('set', nodeid, propvalues)
1102         # Take a copy of the node dict so that the subsequent set
1103         # operation doesn't modify the oldvalues structure.
1104         # XXX used to try the cache here first
1105         oldvalues = copy.deepcopy(self.db.getnode(self.classname, nodeid))
1107         node = self.db.getnode(self.classname, nodeid)
1108         if self.is_retired(nodeid):
1109             raise IndexError
1110         num_re = re.compile('^\d+$')
1112         # if the journal value is to be different, store it in here
1113         journalvalues = {}
1115         # remember the add/remove stuff for multilinks, making it easier
1116         # for the Database layer to do its stuff
1117         multilink_changes = {}
1119         for propname, value in propvalues.items():
1120             # check to make sure we're not duplicating an existing key
1121             if propname == self.key and node[propname] != value:
1122                 try:
1123                     self.lookup(value)
1124                 except KeyError:
1125                     pass
1126                 else:
1127                     raise ValueError, 'node with key "%s" exists'%value
1129             # this will raise the KeyError if the property isn't valid
1130             # ... we don't use getprops() here because we only care about
1131             # the writeable properties.
1132             prop = self.properties[propname]
1134             # if the value's the same as the existing value, no sense in
1135             # doing anything
1136             if node.has_key(propname) and value == node[propname]:
1137                 del propvalues[propname]
1138                 continue
1140             # do stuff based on the prop type
1141             if isinstance(prop, Link):
1142                 link_class = prop.classname
1143                 # if it isn't a number, it's a key
1144                 if value is not None and not isinstance(value, type('')):
1145                     raise ValueError, 'property "%s" link value be a string'%(
1146                         propname)
1147                 if isinstance(value, type('')) and not num_re.match(value):
1148                     try:
1149                         value = self.db.classes[link_class].lookup(value)
1150                     except (TypeError, KeyError):
1151                         raise IndexError, 'new property "%s": %s not a %s'%(
1152                             propname, value, prop.classname)
1154                 if (value is not None and
1155                         not self.db.getclass(link_class).hasnode(value)):
1156                     raise IndexError, '%s has no node %s'%(link_class, value)
1158                 if self.do_journal and prop.do_journal:
1159                     # register the unlink with the old linked node
1160                     if node[propname] is not None:
1161                         self.db.addjournal(link_class, node[propname], 'unlink',
1162                             (self.classname, nodeid, propname))
1164                     # register the link with the newly linked node
1165                     if value is not None:
1166                         self.db.addjournal(link_class, value, 'link',
1167                             (self.classname, nodeid, propname))
1169             elif isinstance(prop, Multilink):
1170                 if type(value) != type([]):
1171                     raise TypeError, 'new property "%s" not a list of'\
1172                         ' ids'%propname
1173                 link_class = self.properties[propname].classname
1174                 l = []
1175                 for entry in value:
1176                     # if it isn't a number, it's a key
1177                     if type(entry) != type(''):
1178                         raise ValueError, 'new property "%s" link value ' \
1179                             'must be a string'%propname
1180                     if not num_re.match(entry):
1181                         try:
1182                             entry = self.db.classes[link_class].lookup(entry)
1183                         except (TypeError, KeyError):
1184                             raise IndexError, 'new property "%s": %s not a %s'%(
1185                                 propname, entry,
1186                                 self.properties[propname].classname)
1187                     l.append(entry)
1188                 value = l
1189                 propvalues[propname] = value
1191                 # figure the journal entry for this property
1192                 add = []
1193                 remove = []
1195                 # handle removals
1196                 if node.has_key(propname):
1197                     l = node[propname]
1198                 else:
1199                     l = []
1200                 for id in l[:]:
1201                     if id in value:
1202                         continue
1203                     # register the unlink with the old linked node
1204                     if self.do_journal and self.properties[propname].do_journal:
1205                         self.db.addjournal(link_class, id, 'unlink',
1206                             (self.classname, nodeid, propname))
1207                     l.remove(id)
1208                     remove.append(id)
1210                 # handle additions
1211                 for id in value:
1212                     if not self.db.getclass(link_class).hasnode(id):
1213                         raise IndexError, '%s has no node %s'%(link_class, id)
1214                     if id in l:
1215                         continue
1216                     # register the link with the newly linked node
1217                     if self.do_journal and self.properties[propname].do_journal:
1218                         self.db.addjournal(link_class, id, 'link',
1219                             (self.classname, nodeid, propname))
1220                     l.append(id)
1221                     add.append(id)
1223                 # figure the journal entry
1224                 l = []
1225                 if add:
1226                     l.append(('+', add))
1227                 if remove:
1228                     l.append(('-', remove))
1229                 multilink_changes[propname] = (add, remove)
1230                 if l:
1231                     journalvalues[propname] = tuple(l)
1233             elif isinstance(prop, String):
1234                 if value is not None and type(value) != type(''):
1235                     raise TypeError, 'new property "%s" not a string'%propname
1237             elif isinstance(prop, Password):
1238                 if not isinstance(value, password.Password):
1239                     raise TypeError, 'new property "%s" not a Password'%propname
1240                 propvalues[propname] = value
1242             elif value is not None and isinstance(prop, Date):
1243                 if not isinstance(value, date.Date):
1244                     raise TypeError, 'new property "%s" not a Date'% propname
1245                 propvalues[propname] = value
1247             elif value is not None and isinstance(prop, Interval):
1248                 if not isinstance(value, date.Interval):
1249                     raise TypeError, 'new property "%s" not an '\
1250                         'Interval'%propname
1251                 propvalues[propname] = value
1253             elif value is not None and isinstance(prop, Number):
1254                 try:
1255                     float(value)
1256                 except ValueError:
1257                     raise TypeError, 'new property "%s" not numeric'%propname
1259             elif value is not None and isinstance(prop, Boolean):
1260                 try:
1261                     int(value)
1262                 except ValueError:
1263                     raise TypeError, 'new property "%s" not boolean'%propname
1265             node[propname] = value
1267         # nothing to do?
1268         if not propvalues:
1269             return propvalues
1271         # do the set, and journal it
1272         self.db.setnode(self.classname, nodeid, node, multilink_changes)
1274         if self.do_journal:
1275             propvalues.update(journalvalues)
1276             self.db.addjournal(self.classname, nodeid, 'set', propvalues)
1278         self.fireReactors('set', nodeid, oldvalues)
1280         return propvalues        
1282     def retire(self, nodeid):
1283         '''Retire a node.
1284         
1285         The properties on the node remain available from the get() method,
1286         and the node's id is never reused.
1287         
1288         Retired nodes are not returned by the find(), list(), or lookup()
1289         methods, and other nodes may reuse the values of their key properties.
1290         '''
1291         if self.db.journaltag is None:
1292             raise DatabaseError, 'Database open read-only'
1294         cursor = self.db.conn.cursor()
1295         sql = 'update _%s set __retired__=1 where id=?'%self.classname
1296         if __debug__:
1297             print >>hyperdb.DEBUG, 'retire', (self, sql, nodeid)
1298         cursor.execute(sql, (nodeid,))
1300     def is_retired(self, nodeid):
1301         '''Return true if the node is rerired
1302         '''
1303         cursor = self.db.conn.cursor()
1304         sql = 'select __retired__ from _%s where id=?'%self.classname
1305         if __debug__:
1306             print >>hyperdb.DEBUG, 'is_retired', (self, sql, nodeid)
1307         cursor.execute(sql, (nodeid,))
1308         return cursor.fetchone()[0]
1310     def destroy(self, nodeid):
1311         '''Destroy a node.
1312         
1313         WARNING: this method should never be used except in extremely rare
1314                  situations where there could never be links to the node being
1315                  deleted
1316         WARNING: use retire() instead
1317         WARNING: the properties of this node will not be available ever again
1318         WARNING: really, use retire() instead
1320         Well, I think that's enough warnings. This method exists mostly to
1321         support the session storage of the cgi interface.
1323         The node is completely removed from the hyperdb, including all journal
1324         entries. It will no longer be available, and will generally break code
1325         if there are any references to the node.
1326         '''
1327         if self.db.journaltag is None:
1328             raise DatabaseError, 'Database open read-only'
1329         self.db.destroynode(self.classname, nodeid)
1331     def history(self, nodeid):
1332         '''Retrieve the journal of edits on a particular node.
1334         'nodeid' must be the id of an existing node of this class or an
1335         IndexError is raised.
1337         The returned list contains tuples of the form
1339             (date, tag, action, params)
1341         'date' is a Timestamp object specifying the time of the change and
1342         'tag' is the journaltag specified when the database was opened.
1343         '''
1344         if not self.do_journal:
1345             raise ValueError, 'Journalling is disabled for this class'
1346         return self.db.getjournal(self.classname, nodeid)
1348     # Locating nodes:
1349     def hasnode(self, nodeid):
1350         '''Determine if the given nodeid actually exists
1351         '''
1352         return self.db.hasnode(self.classname, nodeid)
1354     def setkey(self, propname):
1355         '''Select a String property of this class to be the key property.
1357         'propname' must be the name of a String property of this class or
1358         None, or a TypeError is raised.  The values of the key property on
1359         all existing nodes must be unique or a ValueError is raised.
1360         '''
1361         # XXX create an index on the key prop column
1362         prop = self.getprops()[propname]
1363         if not isinstance(prop, String):
1364             raise TypeError, 'key properties must be String'
1365         self.key = propname
1367     def getkey(self):
1368         '''Return the name of the key property for this class or None.'''
1369         return self.key
1371     def labelprop(self, default_to_id=0):
1372         ''' Return the property name for a label for the given node.
1374         This method attempts to generate a consistent label for the node.
1375         It tries the following in order:
1376             1. key property
1377             2. "name" property
1378             3. "title" property
1379             4. first property from the sorted property name list
1380         '''
1381         k = self.getkey()
1382         if  k:
1383             return k
1384         props = self.getprops()
1385         if props.has_key('name'):
1386             return 'name'
1387         elif props.has_key('title'):
1388             return 'title'
1389         if default_to_id:
1390             return 'id'
1391         props = props.keys()
1392         props.sort()
1393         return props[0]
1395     def lookup(self, keyvalue):
1396         '''Locate a particular node by its key property and return its id.
1398         If this class has no key property, a TypeError is raised.  If the
1399         'keyvalue' matches one of the values for the key property among
1400         the nodes in this class, the matching node's id is returned;
1401         otherwise a KeyError is raised.
1402         '''
1403         if not self.key:
1404             raise TypeError, 'No key property set'
1406         cursor = self.db.conn.cursor()
1407         sql = 'select id from _%s where _%s=?'%(self.classname, self.key)
1408         if __debug__:
1409             print >>hyperdb.DEBUG, 'lookup', (self, sql, keyvalue)
1410         cursor.execute(sql, (keyvalue,))
1412         # see if there was a result
1413         l = cursor.fetchall()
1414         if not l:
1415             raise KeyError, keyvalue
1417         # return the id
1418         return l[0][0]
1420     def find(self, **propspec):
1421         '''Get the ids of nodes in this class which link to the given nodes.
1423         'propspec' consists of keyword args propname={nodeid:1,}   
1424         'propname' must be the name of a property in this class, or a
1425         KeyError is raised.  That property must be a Link or Multilink
1426         property, or a TypeError is raised.
1428         Any node in this class whose 'propname' property links to any of the
1429         nodeids will be returned. Used by the full text indexing, which knows
1430         that "foo" occurs in msg1, msg3 and file7, so we have hits on these
1431         issues:
1433             db.issue.find(messages={'1':1,'3':1}, files={'7':1})
1434         '''
1435         if __debug__:
1436             print >>hyperdb.DEBUG, 'find', (self, propspec)
1437         if not propspec:
1438             return []
1439         queries = []
1440         tables = []
1441         allvalues = ()
1442         for prop, values in propspec.items():
1443             allvalues += tuple(values.keys())
1444             tables.append('select nodeid from %s_%s where linkid in (%s)'%(
1445                 self.classname, prop, ','.join(['?' for x in values.keys()])))
1446         sql = '\nintersect\n'.join(tables)
1447         if __debug__:
1448             print >>hyperdb.DEBUG, 'find', (self, sql, allvalues)
1449         cursor = self.db.conn.cursor()
1450         cursor.execute(sql, allvalues)
1451         try:
1452             l = [x[0] for x in cursor.fetchall()]
1453         except gadfly.database.error, message:
1454             if message == 'no more results':
1455                 l = []
1456             raise
1457         if __debug__:
1458             print >>hyperdb.DEBUG, 'find ... ', l
1459         return l
1461     def list(self):
1462         ''' Return a list of the ids of the active nodes in this class.
1463         '''
1464         return self.db.getnodeids(self.classname, retired=0)
1466     def filter(self, search_matches, filterspec, sort, group, 
1467             num_re = re.compile('^\d+$')):
1468         ''' Return a list of the ids of the active nodes in this class that
1469             match the 'filter' spec, sorted by the group spec and then the
1470             sort spec
1471         '''
1472         raise NotImplementedError
1474     def count(self):
1475         '''Get the number of nodes in this class.
1477         If the returned integer is 'numnodes', the ids of all the nodes
1478         in this class run from 1 to numnodes, and numnodes+1 will be the
1479         id of the next node to be created in this class.
1480         '''
1481         return self.db.countnodes(self.classname)
1483     # Manipulating properties:
1484     def getprops(self, protected=1):
1485         '''Return a dictionary mapping property names to property objects.
1486            If the "protected" flag is true, we include protected properties -
1487            those which may not be modified.
1488         '''
1489         d = self.properties.copy()
1490         if protected:
1491             d['id'] = String()
1492             d['creation'] = hyperdb.Date()
1493             d['activity'] = hyperdb.Date()
1494             d['creator'] = hyperdb.Link("user")
1495         return d
1497     def addprop(self, **properties):
1498         '''Add properties to this class.
1500         The keyword arguments in 'properties' must map names to property
1501         objects, or a TypeError is raised.  None of the keys in 'properties'
1502         may collide with the names of existing properties, or a ValueError
1503         is raised before any properties have been added.
1504         '''
1505         for key in properties.keys():
1506             if self.properties.has_key(key):
1507                 raise ValueError, key
1508         self.properties.update(properties)
1510     def index(self, nodeid):
1511         '''Add (or refresh) the node to search indexes
1512         '''
1513         # find all the String properties that have indexme
1514         for prop, propclass in self.getprops().items():
1515             if isinstance(propclass, String) and propclass.indexme:
1516                 try:
1517                     value = str(self.get(nodeid, prop))
1518                 except IndexError:
1519                     # node no longer exists - entry should be removed
1520                     self.db.indexer.purge_entry((self.classname, nodeid, prop))
1521                 else:
1522                     # and index them under (classname, nodeid, property)
1523                     self.db.indexer.add_text((self.classname, nodeid, prop),
1524                         value)
1527     #
1528     # Detector interface
1529     #
1530     def audit(self, event, detector):
1531         '''Register a detector
1532         '''
1533         l = self.auditors[event]
1534         if detector not in l:
1535             self.auditors[event].append(detector)
1537     def fireAuditors(self, action, nodeid, newvalues):
1538         '''Fire all registered auditors.
1539         '''
1540         for audit in self.auditors[action]:
1541             audit(self.db, self, nodeid, newvalues)
1543     def react(self, event, detector):
1544         '''Register a detector
1545         '''
1546         l = self.reactors[event]
1547         if detector not in l:
1548             self.reactors[event].append(detector)
1550     def fireReactors(self, action, nodeid, oldvalues):
1551         '''Fire all registered reactors.
1552         '''
1553         for react in self.reactors[action]:
1554             react(self.db, self, nodeid, oldvalues)
1556 class FileClass(Class):
1557     '''This class defines a large chunk of data. To support this, it has a
1558        mandatory String property "content" which is typically saved off
1559        externally to the hyperdb.
1561        The default MIME type of this data is defined by the
1562        "default_mime_type" class attribute, which may be overridden by each
1563        node if the class defines a "type" String property.
1564     '''
1565     default_mime_type = 'text/plain'
1567     def create(self, **propvalues):
1568         ''' snaffle the file propvalue and store in a file
1569         '''
1570         content = propvalues['content']
1571         del propvalues['content']
1572         newid = Class.create(self, **propvalues)
1573         self.db.storefile(self.classname, newid, None, content)
1574         return newid
1576     def import_list(self, propnames, proplist):
1577         ''' Trap the "content" property...
1578         '''
1579         # dupe this list so we don't affect others
1580         propnames = propnames[:]
1582         # extract the "content" property from the proplist
1583         i = propnames.index('content')
1584         content = proplist[i]
1585         del propnames[i]
1586         del proplist[i]
1588         # do the normal import
1589         newid = Class.import_list(self, propnames, proplist)
1591         # save off the "content" file
1592         self.db.storefile(self.classname, newid, None, content)
1593         return newid
1595     _marker = []
1596     def get(self, nodeid, propname, default=_marker, cache=1):
1597         ''' trap the content propname and get it from the file
1598         '''
1600         poss_msg = 'Possibly a access right configuration problem.'
1601         if propname == 'content':
1602             try:
1603                 return self.db.getfile(self.classname, nodeid, None)
1604             except IOError, (strerror):
1605                 # BUG: by catching this we donot see an error in the log.
1606                 return 'ERROR reading file: %s%s\n%s\n%s'%(
1607                         self.classname, nodeid, poss_msg, strerror)
1608         if default is not self._marker:
1609             return Class.get(self, nodeid, propname, default, cache=cache)
1610         else:
1611             return Class.get(self, nodeid, propname, cache=cache)
1613     def getprops(self, protected=1):
1614         ''' In addition to the actual properties on the node, these methods
1615             provide the "content" property. If the "protected" flag is true,
1616             we include protected properties - those which may not be
1617             modified.
1618         '''
1619         d = Class.getprops(self, protected=protected).copy()
1620         if protected:
1621             d['content'] = hyperdb.String()
1622         return d
1624     def index(self, nodeid):
1625         ''' Index the node in the search index.
1627             We want to index the content in addition to the normal String
1628             property indexing.
1629         '''
1630         # perform normal indexing
1631         Class.index(self, nodeid)
1633         # get the content to index
1634         content = self.get(nodeid, 'content')
1636         # figure the mime type
1637         if self.properties.has_key('type'):
1638             mime_type = self.get(nodeid, 'type')
1639         else:
1640             mime_type = self.default_mime_type
1642         # and index!
1643         self.db.indexer.add_text((self.classname, nodeid, 'content'), content,
1644             mime_type)
1646 # XXX deviation from spec - was called ItemClass
1647 class IssueClass(Class, roundupdb.IssueClass):
1648     # Overridden methods:
1649     def __init__(self, db, classname, **properties):
1650         '''The newly-created class automatically includes the "messages",
1651         "files", "nosy", and "superseder" properties.  If the 'properties'
1652         dictionary attempts to specify any of these properties or a
1653         "creation" or "activity" property, a ValueError is raised.
1654         '''
1655         if not properties.has_key('title'):
1656             properties['title'] = hyperdb.String(indexme='yes')
1657         if not properties.has_key('messages'):
1658             properties['messages'] = hyperdb.Multilink("msg")
1659         if not properties.has_key('files'):
1660             properties['files'] = hyperdb.Multilink("file")
1661         if not properties.has_key('nosy'):
1662             properties['nosy'] = hyperdb.Multilink("user")
1663         if not properties.has_key('superseder'):
1664             properties['superseder'] = hyperdb.Multilink(classname)
1665         Class.__init__(self, db, classname, **properties)
1668 # $Log: not supported by cvs2svn $
1669 # Revision 1.4  2002/08/23 05:00:38  richard
1670 # fixed read-only gadfly retire()
1672 # Revision 1.3  2002/08/23 04:58:00  richard
1673 # ahhh, I understand now
1675 # Revision 1.2  2002/08/23 04:48:10  richard
1676 # That's gadfly done, mostly. Things left:
1677 # - Class.filter (I'm a wuss ;)
1678 # - schema changes adding new non-multilink properties are not implemented.
1679 #   gadfly doesn't have an ALTER TABLE command, making that quite difficult :)
1681 # I had to mangle two unit tests to get this all working:
1682 # - gadfly also can't handle two handles open on the one database, so
1683 #   testIDGeneration doesn't try that.
1684 # - testNewProperty is disabled as per the second comment above.
1686 # I noticed test_pack was incorrect, and the *dbm tests fail there now.
1687 # Looking into it...
1689 # Revision 1.1  2002/08/22 07:56:51  richard
1690 # Whee! It's not finished yet, but I can create a new instance and play with
1691 # it a little bit :)
1693 # Revision 1.80  2002/08/16 04:28:13  richard
1694 # added is_retired query to Class
1696 # Revision 1.79  2002/07/29 23:30:14  richard
1697 # documentation reorg post-new-security
1699 # Revision 1.78  2002/07/21 03:26:37  richard
1700 # Gordon, does this help?
1702 # Revision 1.77  2002/07/18 11:27:47  richard
1703 # ws
1705 # Revision 1.76  2002/07/18 11:17:30  gmcm
1706 # Add Number and Boolean types to hyperdb.
1707 # Add conversion cases to web, mail & admin interfaces.
1708 # Add storage/serialization cases to back_anydbm & back_metakit.
1710 # Revision 1.75  2002/07/14 02:05:53  richard
1711 # . all storage-specific code (ie. backend) is now implemented by the backends
1713 # Revision 1.74  2002/07/10 00:24:10  richard
1714 # braino
1716 # Revision 1.73  2002/07/10 00:19:48  richard
1717 # Added explicit closing of backend database handles.
1719 # Revision 1.72  2002/07/09 21:53:38  gmcm
1720 # Optimize Class.find so that the propspec can contain a set of ids to match.
1721 # This is used by indexer.search so it can do just one find for all the index matches.
1722 # This was already confusing code, but for common terms (lots of index matches),
1723 # it is enormously faster.
1725 # Revision 1.71  2002/07/09 03:02:52  richard
1726 # More indexer work:
1727 # - all String properties may now be indexed too. Currently there's a bit of
1728 #   "issue" specific code in the actual searching which needs to be
1729 #   addressed. In a nutshell:
1730 #   + pass 'indexme="yes"' as a String() property initialisation arg, eg:
1731 #         file = FileClass(db, "file", name=String(), type=String(),
1732 #             comment=String(indexme="yes"))
1733 #   + the comment will then be indexed and be searchable, with the results
1734 #     related back to the issue that the file is linked to
1735 # - as a result of this work, the FileClass has a default MIME type that may
1736 #   be overridden in a subclass, or by the use of a "type" property as is
1737 #   done in the default templates.
1738 # - the regeneration of the indexes (if necessary) is done once the schema is
1739 #   set up in the dbinit.
1741 # Revision 1.70  2002/06/27 12:06:20  gmcm
1742 # Improve an error message.
1744 # Revision 1.69  2002/06/17 23:15:29  richard
1745 # Can debug to stdout now
1747 # Revision 1.68  2002/06/11 06:52:03  richard
1748 #  . #564271 ] find() and new properties
1750 # Revision 1.67  2002/06/11 05:02:37  richard
1751 #  . #565979 ] code error in hyperdb.Class.find
1753 # Revision 1.66  2002/05/25 07:16:24  rochecompaan
1754 # Merged search_indexing-branch with HEAD
1756 # Revision 1.65  2002/05/22 04:12:05  richard
1757 #  . applied patch #558876 ] cgi client customization
1758 #    ... with significant additions and modifications ;)
1759 #    - extended handling of ML assignedto to all places it's handled
1760 #    - added more NotFound info
1762 # Revision 1.64  2002/05/15 06:21:21  richard
1763 #  . node caching now works, and gives a small boost in performance
1765 # As a part of this, I cleaned up the DEBUG output and implemented TRACE
1766 # output (HYPERDBTRACE='file to trace to') with checkpoints at the start of
1767 # CGI requests. Run roundup with python -O to skip all the DEBUG/TRACE stuff
1768 # (using if __debug__ which is compiled out with -O)
1770 # Revision 1.63  2002/04/15 23:25:15  richard
1771 # . node ids are now generated from a lockable store - no more race conditions
1773 # We're using the portalocker code by Jonathan Feinberg that was contributed
1774 # to the ASPN Python cookbook. This gives us locking across Unix and Windows.
1776 # Revision 1.62  2002/04/03 07:05:50  richard
1777 # d'oh! killed retirement of nodes :(
1778 # all better now...
1780 # Revision 1.61  2002/04/03 06:11:51  richard
1781 # Fix for old databases that contain properties that don't exist any more.
1783 # Revision 1.60  2002/04/03 05:54:31  richard
1784 # Fixed serialisation problem by moving the serialisation step out of the
1785 # hyperdb.Class (get, set) into the hyperdb.Database.
1787 # Also fixed htmltemplate after the showid changes I made yesterday.
1789 # Unit tests for all of the above written.
1791 # Revision 1.59.2.2  2002/04/20 13:23:33  rochecompaan
1792 # We now have a separate search page for nodes.  Search links for
1793 # different classes can be customized in instance_config similar to
1794 # index links.
1796 # Revision 1.59.2.1  2002/04/19 19:54:42  rochecompaan
1797 # cgi_client.py
1798 #     removed search link for the time being
1799 #     moved rendering of matches to htmltemplate
1800 # hyperdb.py
1801 #     filtering of nodes on full text search incorporated in filter method
1802 # roundupdb.py
1803 #     added paramater to call of filter method
1804 # roundup_indexer.py
1805 #     added search method to RoundupIndexer class
1807 # Revision 1.59  2002/03/12 22:52:26  richard
1808 # more pychecker warnings removed
1810 # Revision 1.58  2002/02/27 03:23:16  richard
1811 # Ran it through pychecker, made fixes
1813 # Revision 1.57  2002/02/20 05:23:24  richard
1814 # Didn't accomodate new values for new properties
1816 # Revision 1.56  2002/02/20 05:05:28  richard
1817 #  . Added simple editing for classes that don't define a templated interface.
1818 #    - access using the admin "class list" interface
1819 #    - limited to admin-only
1820 #    - requires the csv module from object-craft (url given if it's missing)
1822 # Revision 1.55  2002/02/15 07:27:12  richard
1823 # Oops, precedences around the way w0rng.
1825 # Revision 1.54  2002/02/15 07:08:44  richard
1826 #  . Alternate email addresses are now available for users. See the MIGRATION
1827 #    file for info on how to activate the feature.
1829 # Revision 1.53  2002/01/22 07:21:13  richard
1830 # . fixed back_bsddb so it passed the journal tests
1832 # ... it didn't seem happy using the back_anydbm _open method, which is odd.
1833 # Yet another occurrance of whichdb not being able to recognise older bsddb
1834 # databases. Yadda yadda. Made the HYPERDBDEBUG stuff more sane in the
1835 # process.
1837 # Revision 1.52  2002/01/21 16:33:19  rochecompaan
1838 # You can now use the roundup-admin tool to pack the database
1840 # Revision 1.51  2002/01/21 03:01:29  richard
1841 # brief docco on the do_journal argument
1843 # Revision 1.50  2002/01/19 13:16:04  rochecompaan
1844 # Journal entries for link and multilink properties can now be switched on
1845 # or off.
1847 # Revision 1.49  2002/01/16 07:02:57  richard
1848 #  . lots of date/interval related changes:
1849 #    - more relaxed date format for input
1851 # Revision 1.48  2002/01/14 06:32:34  richard
1852 #  . #502951 ] adding new properties to old database
1854 # Revision 1.47  2002/01/14 02:20:15  richard
1855 #  . changed all config accesses so they access either the instance or the
1856 #    config attriubute on the db. This means that all config is obtained from
1857 #    instance_config instead of the mish-mash of classes. This will make
1858 #    switching to a ConfigParser setup easier too, I hope.
1860 # At a minimum, this makes migration a _little_ easier (a lot easier in the
1861 # 0.5.0 switch, I hope!)
1863 # Revision 1.46  2002/01/07 10:42:23  richard
1864 # oops
1866 # Revision 1.45  2002/01/02 04:18:17  richard
1867 # hyperdb docstrings
1869 # Revision 1.44  2002/01/02 02:31:38  richard
1870 # Sorry for the huge checkin message - I was only intending to implement #496356
1871 # but I found a number of places where things had been broken by transactions:
1872 #  . modified ROUNDUPDBSENDMAILDEBUG to be SENDMAILDEBUG and hold a filename
1873 #    for _all_ roundup-generated smtp messages to be sent to.
1874 #  . the transaction cache had broken the roundupdb.Class set() reactors
1875 #  . newly-created author users in the mailgw weren't being committed to the db
1877 # Stuff that made it into CHANGES.txt (ie. the stuff I was actually working
1878 # on when I found that stuff :):
1879 #  . #496356 ] Use threading in messages
1880 #  . detectors were being registered multiple times
1881 #  . added tests for mailgw
1882 #  . much better attaching of erroneous messages in the mail gateway
1884 # Revision 1.43  2001/12/20 06:13:24  rochecompaan
1885 # Bugs fixed:
1886 #   . Exception handling in hyperdb for strings-that-look-like numbers got
1887 #     lost somewhere
1888 #   . Internet Explorer submits full path for filename - we now strip away
1889 #     the path
1890 # Features added:
1891 #   . Link and multilink properties are now displayed sorted in the cgi
1892 #     interface
1894 # Revision 1.42  2001/12/16 10:53:37  richard
1895 # take a copy of the node dict so that the subsequent set
1896 # operation doesn't modify the oldvalues structure
1898 # Revision 1.41  2001/12/15 23:47:47  richard
1899 # Cleaned up some bare except statements
1901 # Revision 1.40  2001/12/14 23:42:57  richard
1902 # yuck, a gdbm instance tests false :(
1903 # I've left the debugging code in - it should be removed one day if we're ever
1904 # _really_ anal about performace :)
1906 # Revision 1.39  2001/12/02 05:06:16  richard
1907 # . We now use weakrefs in the Classes to keep the database reference, so
1908 #   the close() method on the database is no longer needed.
1909 #   I bumped the minimum python requirement up to 2.1 accordingly.
1910 # . #487480 ] roundup-server
1911 # . #487476 ] INSTALL.txt
1913 # I also cleaned up the change message / post-edit stuff in the cgi client.
1914 # There's now a clearly marked "TODO: append the change note" where I believe
1915 # the change note should be added there. The "changes" list will obviously
1916 # have to be modified to be a dict of the changes, or somesuch.
1918 # More testing needed.
1920 # Revision 1.38  2001/12/01 07:17:50  richard
1921 # . We now have basic transaction support! Information is only written to
1922 #   the database when the commit() method is called. Only the anydbm
1923 #   backend is modified in this way - neither of the bsddb backends have been.
1924 #   The mail, admin and cgi interfaces all use commit (except the admin tool
1925 #   doesn't have a commit command, so interactive users can't commit...)
1926 # . Fixed login/registration forwarding the user to the right page (or not,
1927 #   on a failure)
1929 # Revision 1.37  2001/11/28 21:55:35  richard
1930 #  . login_action and newuser_action return values were being ignored
1931 #  . Woohoo! Found that bloody re-login bug that was killing the mail
1932 #    gateway.
1933 #  (also a minor cleanup in hyperdb)
1935 # Revision 1.36  2001/11/27 03:16:09  richard
1936 # Another place that wasn't handling missing properties.
1938 # Revision 1.35  2001/11/22 15:46:42  jhermann
1939 # Added module docstrings to all modules.
1941 # Revision 1.34  2001/11/21 04:04:43  richard
1942 # *sigh* more missing value handling
1944 # Revision 1.33  2001/11/21 03:40:54  richard
1945 # more new property handling
1947 # Revision 1.32  2001/11/21 03:11:28  richard
1948 # Better handling of new properties.
1950 # Revision 1.31  2001/11/12 22:01:06  richard
1951 # Fixed issues with nosy reaction and author copies.
1953 # Revision 1.30  2001/11/09 10:11:08  richard
1954 #  . roundup-admin now handles all hyperdb exceptions
1956 # Revision 1.29  2001/10/27 00:17:41  richard
1957 # Made Class.stringFind() do caseless matching.
1959 # Revision 1.28  2001/10/21 04:44:50  richard
1960 # bug #473124: UI inconsistency with Link fields.
1961 #    This also prompted me to fix a fairly long-standing usability issue -
1962 #    that of being able to turn off certain filters.
1964 # Revision 1.27  2001/10/20 23:44:27  richard
1965 # Hyperdatabase sorts strings-that-look-like-numbers as numbers now.
1967 # Revision 1.26  2001/10/16 03:48:01  richard
1968 # admin tool now complains if a "find" is attempted with a non-link property.
1970 # Revision 1.25  2001/10/11 00:17:51  richard
1971 # Reverted a change in hyperdb so the default value for missing property
1972 # values in a create() is None and not '' (the empty string.) This obviously
1973 # breaks CSV import/export - the string 'None' will be created in an
1974 # export/import operation.
1976 # Revision 1.24  2001/10/10 03:54:57  richard
1977 # Added database importing and exporting through CSV files.
1978 # Uses the csv module from object-craft for exporting if it's available.
1979 # Requires the csv module for importing.
1981 # Revision 1.23  2001/10/09 23:58:10  richard
1982 # Moved the data stringification up into the hyperdb.Class class' get, set
1983 # and create methods. This means that the data is also stringified for the
1984 # journal call, and removes duplication of code from the backends. The
1985 # backend code now only sees strings.
1987 # Revision 1.22  2001/10/09 07:25:59  richard
1988 # Added the Password property type. See "pydoc roundup.password" for
1989 # implementation details. Have updated some of the documentation too.
1991 # Revision 1.21  2001/10/05 02:23:24  richard
1992 #  . roundup-admin create now prompts for property info if none is supplied
1993 #    on the command-line.
1994 #  . hyperdb Class getprops() method may now return only the mutable
1995 #    properties.
1996 #  . Login now uses cookies, which makes it a whole lot more flexible. We can
1997 #    now support anonymous user access (read-only, unless there's an
1998 #    "anonymous" user, in which case write access is permitted). Login
1999 #    handling has been moved into cgi_client.Client.main()
2000 #  . The "extended" schema is now the default in roundup init.
2001 #  . The schemas have had their page headings modified to cope with the new
2002 #    login handling. Existing installations should copy the interfaces.py
2003 #    file from the roundup lib directory to their instance home.
2004 #  . Incorrectly had a Bizar Software copyright on the cgitb.py module from
2005 #    Ping - has been removed.
2006 #  . Fixed a whole bunch of places in the CGI interface where we should have
2007 #    been returning Not Found instead of throwing an exception.
2008 #  . Fixed a deviation from the spec: trying to modify the 'id' property of
2009 #    an item now throws an exception.
2011 # Revision 1.20  2001/10/04 02:12:42  richard
2012 # Added nicer command-line item adding: passing no arguments will enter an
2013 # interactive more which asks for each property in turn. While I was at it, I
2014 # fixed an implementation problem WRT the spec - I wasn't raising a
2015 # ValueError if the key property was missing from a create(). Also added a
2016 # protected=boolean argument to getprops() so we can list only the mutable
2017 # properties (defaults to yes, which lists the immutables).
2019 # Revision 1.19  2001/08/29 04:47:18  richard
2020 # Fixed CGI client change messages so they actually include the properties
2021 # changed (again).
2023 # Revision 1.18  2001/08/16 07:34:59  richard
2024 # better CGI text searching - but hidden filter fields are disappearing...
2026 # Revision 1.17  2001/08/16 06:59:58  richard
2027 # all searches use re now - and they're all case insensitive
2029 # Revision 1.16  2001/08/15 23:43:18  richard
2030 # Fixed some isFooTypes that I missed.
2031 # Refactored some code in the CGI code.
2033 # Revision 1.15  2001/08/12 06:32:36  richard
2034 # using isinstance(blah, Foo) now instead of isFooType
2036 # Revision 1.14  2001/08/07 00:24:42  richard
2037 # stupid typo
2039 # Revision 1.13  2001/08/07 00:15:51  richard
2040 # Added the copyright/license notice to (nearly) all files at request of
2041 # Bizar Software.
2043 # Revision 1.12  2001/08/02 06:38:17  richard
2044 # Roundupdb now appends "mailing list" information to its messages which
2045 # include the e-mail address and web interface address. Templates may
2046 # override this in their db classes to include specific information (support
2047 # instructions, etc).
2049 # Revision 1.11  2001/08/01 04:24:21  richard
2050 # mailgw was assuming certain properties existed on the issues being created.
2052 # Revision 1.10  2001/07/30 02:38:31  richard
2053 # get() now has a default arg - for migration only.
2055 # Revision 1.9  2001/07/29 09:28:23  richard
2056 # Fixed sorting by clicking on column headings.
2058 # Revision 1.8  2001/07/29 08:27:40  richard
2059 # Fixed handling of passed-in values in form elements (ie. during a
2060 # drill-down)
2062 # Revision 1.7  2001/07/29 07:01:39  richard
2063 # Added vim command to all source so that we don't get no steenkin' tabs :)
2065 # Revision 1.6  2001/07/29 05:36:14  richard
2066 # Cleanup of the link label generation.
2068 # Revision 1.5  2001/07/29 04:05:37  richard
2069 # Added the fabricated property "id".
2071 # Revision 1.4  2001/07/27 06:25:35  richard
2072 # Fixed some of the exceptions so they're the right type.
2073 # Removed the str()-ification of node ids so we don't mask oopsy errors any
2074 # more.
2076 # Revision 1.3  2001/07/27 05:17:14  richard
2077 # just some comments
2079 # Revision 1.2  2001/07/22 12:09:32  richard
2080 # Final commit of Grande Splite
2082 # Revision 1.1  2001/07/22 11:58:35  richard
2083 # More Grande Splite
2086 # vim: set filetype=python ts=4 sw=4 et si