Code

store: Renamed sdb_store_cmp_XX to sdb_store_XX_matcher.
[sysdb.git] / src / include / core / store.h
1 /*
2  * SysDB - src/include/core/store.h
3  * Copyright (C) 2012 Sebastian 'tokkee' Harl <sh@tokkee.org>
4  * All rights reserved.
5  *
6  * Redistribution and use in source and binary forms, with or without
7  * modification, are permitted provided that the following conditions
8  * are met:
9  * 1. Redistributions of source code must retain the above copyright
10  *    notice, this list of conditions and the following disclaimer.
11  * 2. Redistributions in binary form must reproduce the above copyright
12  *    notice, this list of conditions and the following disclaimer in the
13  *    documentation and/or other materials provided with the distribution.
14  *
15  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
16  * ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED
17  * TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
18  * PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDERS OR
19  * CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
20  * EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
21  * PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS;
22  * OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY,
23  * WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR
24  * OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF
25  * ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
26  */
28 #ifndef SDB_CORE_STORE_H
29 #define SDB_CORE_STORE_H 1
31 #include "sysdb.h"
32 #include "core/object.h"
33 #include "core/data.h"
34 #include "core/time.h"
35 #include "core/timeseries.h"
36 #include "utils/strbuf.h"
38 #include <stdio.h>
40 #ifdef __cplusplus
41 extern "C" {
42 #endif
44 /*
45  * Store object types.
46  */
47 enum {
48         SDB_HOST = 1,
49         SDB_SERVICE,
50         SDB_METRIC,
51         SDB_ATTRIBUTE,
52 };
53 #define SDB_STORE_TYPE_TO_NAME(t) \
54         (((t) == SDB_HOST) ? "host" \
55                 : ((t) == SDB_SERVICE) ? "service" \
56                 : ((t) == SDB_METRIC) ? "metric" \
57                 : ((t) == SDB_ATTRIBUTE) ? "attribute" : "unknown")
59 /*
60  * sdb_store_obj_t represents the super-class of any object stored in the
61  * database. It inherits from sdb_object_t and may safely be cast to a generic
62  * object to access its name.
63  */
64 struct sdb_store_obj;
65 typedef struct sdb_store_obj sdb_store_obj_t;
67 /*
68  * Expressions represent arithmetic expressions based on stored objects and
69  * their various attributes.
70  *
71  * An expression object inherits from sdb_object_t and, thus, may safely be
72  * cast to a generic object.
73  */
74 struct sdb_store_expr;
75 typedef struct sdb_store_expr sdb_store_expr_t;
76 #define SDB_STORE_EXPR(obj) ((sdb_store_expr_t *)(obj))
78 /*
79  * Store matchers may be used to lookup hosts from the store based on their
80  * various attributes. Service and attribute matchers are applied to a host's
81  * services and attributes and evaluate to true if *any* service or attribute
82  * matches.
83  *
84  * A store matcher object inherits from sdb_object_t and, thus, may safely be
85  * cast to a generic object.
86  */
87 struct sdb_store_matcher;
88 typedef struct sdb_store_matcher sdb_store_matcher_t;
89 #define SDB_STORE_MATCHER(obj) ((sdb_store_matcher_t *)(obj))
91 /*
92  * Queryable fields of a stored object.
93  */
94 enum {
95         SDB_FIELD_NAME = 1,    /* string */
96         SDB_FIELD_LAST_UPDATE, /* datetime */
97         SDB_FIELD_AGE,         /* datetime */
98         SDB_FIELD_INTERVAL,    /* datetime */
99         SDB_FIELD_BACKEND,     /* string */
100 };
102 #define SDB_FIELD_TO_NAME(f) \
103         (((f) == SDB_FIELD_NAME) ? "name" \
104                 : ((f) == SDB_FIELD_LAST_UPDATE) ? "last-update" \
105                 : ((f) == SDB_FIELD_AGE) ? "age" \
106                 : ((f) == SDB_FIELD_INTERVAL) ? "interval" \
107                 : ((f) == SDB_FIELD_BACKEND) ? "backend" : "unknown")
109 /*
110  * sdb_store_clear:
111  * Clear the entire store and remove all stored objects.
112  */
113 void
114 sdb_store_clear(void);
116 /*
117  * sdb_store_host:
118  * Add/update a host in the store. If the host, identified by its
119  * canonicalized name, already exists, it will be updated according to the
120  * specified name and timestamp. Else, a new entry will be created in the
121  * store. Any memory required for storing the entry will be allocated an
122  * managed by the store itself.
123  *
124  * Returns:
125  *  - 0 on success
126  *  - a positive value if the new entry is older than the currently stored
127  *    entry (in this case, no update will happen)
128  *  - a negative value on error
129  */
130 int
131 sdb_store_host(const char *name, sdb_time_t last_update);
133 /*
134  * sdb_store_has_host:
135  * sdb_store_get_host:
136  * Query the store for a host by its (canonicalized) name.
137  *
138  * sdb_store_get_host increments the ref count of the host object. The caller
139  * needs to deref it when no longer using it.
140  */
141 _Bool
142 sdb_store_has_host(const char *name);
144 sdb_store_obj_t *
145 sdb_store_get_host(const char *name);
147 /*
148  * sdb_store_attribute:
149  * Add/update a host's attribute in the store. If the attribute, identified by
150  * its key, already exists for the specified host, it will be updated to the
151  * specified values. If the referenced host does not exist, an error will be
152  * reported. Else, a new entry will be created in the store. Any memory
153  * required for storing the entry will be allocated and managed by the store
154  * itself.
155  *
156  * Returns:
157  *  - 0 on success
158  *  - a positive value if the new entry is older than the currently stored
159  *    entry (in this case, no update will happen)
160  *  - a negative value on error
161  */
162 int
163 sdb_store_attribute(const char *hostname,
164                 const char *key, const sdb_data_t *value,
165                 sdb_time_t last_update);
167 /*
168  * sdb_store_service:
169  * Add/update a service in the store. If the service, identified by its name,
170  * already exists for the specified host, it will be updated according to the
171  * specified 'service' object. If the referenced host does not exist, an error
172  * will be reported. Else, a new entry will be created in the store. Any
173  * memory required for storing the entry will be allocated an managed by the
174  * store itself.
175  *
176  * Returns:
177  *  - 0 on success
178  *  - a positive value if the new entry is older than the currently stored
179  *    entry (in this case, no update will happen)
180  *  - a negative value on error
181  */
182 int
183 sdb_store_service(const char *hostname, const char *name,
184                 sdb_time_t last_update);
186 /*
187  * sdb_store_service_attr:
188  * Add/update a service's attribute in the store. If the attribute, identified
189  * by its key, already exists for the specified service, it will be updated to
190  * the specified value. If the references service (for the specified host)
191  * does not exist, an error will be reported. Any memory required for storing
192  * the entry will be allocated and managed by the store itself.
193  *
194  * Returns:
195  *  - 0 on success
196  *  - a positive value if the new entry is older than the currently stored
197  *    entry (in this case, no update will happen)
198  *  - a negative value on error
199  */
200 int
201 sdb_store_service_attr(const char *hostname, const char *service,
202                 const char *key, const sdb_data_t *value, sdb_time_t last_update);
204 /*
205  * A metric store describes how to access a metric's data.
206  */
207 typedef struct {
208         const char *type;
209         const char *id;
210 } sdb_metric_store_t;
212 /*
213  * sdb_store_metric:
214  * Add/update a metric in the store. If the metric, identified by its name,
215  * already exists for the specified host, it will be updated according to the
216  * specified 'metric' object. If the referenced host does not exist, an error
217  * will be reported. Else, a new entry will be created in the store. Any
218  * memory required for storing the entry will be allocated an managed by the
219  * store itself.
220  *
221  * If specified, the metric store describes where to access the metric's data.
222  *
223  * Returns:
224  *  - 0 on success
225  *  - a positive value if the new entry is older than the currently stored
226  *    entry (in this case, no update will happen)
227  *  - a negative value on error
228  */
229 int
230 sdb_store_metric(const char *hostname, const char *name,
231                 sdb_metric_store_t *store, sdb_time_t last_update);
233 /*
234  * sdb_store_metric_attr:
235  * Add/update a metric's attribute in the store. If the attribute, identified
236  * by its key, already exists for the specified metric, it will be updated to
237  * the specified value. If the references metric (for the specified host)
238  * does not exist, an error will be reported. Any memory required for storing
239  * the entry will be allocated and managed by the store itself.
240  *
241  * Returns:
242  *  - 0 on success
243  *  - a positive value if the new entry is older than the currently stored
244  *    entry (in this case, no update will happen)
245  *  - a negative value on error
246  */
247 int
248 sdb_store_metric_attr(const char *hostname, const char *metric,
249                 const char *key, const sdb_data_t *value, sdb_time_t last_update);
251 /*
252  * sdb_store_fetch_timeseries:
253  * Fetch the time-series described by the specified host's metric and
254  * serialize it as JSON into the provided string buffer.
255  *
256  * Returns:
257  *  - 0 on success
258  *  - a negative value else
259  */
260 int
261 sdb_store_fetch_timeseries(const char *hostname, const char *metric,
262                 sdb_timeseries_opts_t *opts, sdb_strbuf_t *buf);
264 /*
265  * sdb_store_get_field:
266  * Get the value of a stored object's queryable field. The caller is
267  * responsible for freeing any dynamically allocated memory possibly stored in
268  * the returned value. If 'res' is NULL, the function will return whether the
269  * field exists.
270  *
271  * Note: Retrieving the backend this way is not currently supported.
272  *
273  * Returns:
274  *  - 0 on success
275  *  - a negative value else
276  */
277 int
278 sdb_store_get_field(sdb_store_obj_t *obj, int field, sdb_data_t *res);
280 /*
281  * sdb_store_get_attr:
282  * Get the value of a stored object's attribute. The caller is responsible for
283  * freeing any dynamically allocated memory possibly stored in the returned
284  * value. If 'res' is NULL, the function will return whether the attribute
285  * exists. If specified, only attributes matching the filter will be
286  * considered.
287  *
288  * Returns:
289  *  - 0 if the attribute exists
290  *  - a negative value else
291  */
292 int
293 sdb_store_get_attr(sdb_store_obj_t *obj, const char *name, sdb_data_t *res,
294                 sdb_store_matcher_t *filter);
296 /*
297  * sdb_store_expr_create:
298  * Creates an arithmetic expression implementing the specified operator on the
299  * specified left and right operand.
300  *
301  * Returns:
302  *  - an expression object on success
303  *  - NULL else
304  */
305 sdb_store_expr_t *
306 sdb_store_expr_create(int op, sdb_store_expr_t *left, sdb_store_expr_t *right);
308 /*
309  * sdb_store_expr_fieldvalue:
310  * Creates an expression which evaluates to the value of the specified
311  * queryable field of a stored object.
312  *
313  * Returns:
314  *  - an expression object on success
315  *  - NULL else
316  */
317 sdb_store_expr_t *
318 sdb_store_expr_fieldvalue(int field);
320 /*
321  * sdb_store_expr_attrvalue:
322  * Creates an expression which evaluates to the value of the specified
323  * attribute of a stored object. Evaluates to a NULL value if the attribute
324  * does not exist.
325  *
326  * Returns:
327  *  - an expression object on success
328  *  - NULL else
329  */
330 sdb_store_expr_t *
331 sdb_store_expr_attrvalue(const char *name);
333 /*
334  * sdb_store_expr_constvalue:
335  * Creates an expression which evaluates to the specified constant value.
336  *
337  * Returns:
338  *  - an expression object on success
339  *  - NULL else
340  */
341 sdb_store_expr_t *
342 sdb_store_expr_constvalue(const sdb_data_t *value);
344 /*
345  * sdb_store_expr_eval:
346  * Evaluate an expression for the specified stored object and stores the
347  * result in 'res'. The result's value will be allocated dynamically if
348  * necessary and, thus, should be free'd by the caller (e.g. using
349  * sdb_data_free_datum). The object may be NULL, in which case the expression
350  * needs to evaluate to a constant value. If specified, only objects matching
351  * the filter will be used during the evaluation.
352  *
353  * Returns:
354  *  - 0 on success
355  *  - a negative value else
356  */
357 int
358 sdb_store_expr_eval(sdb_store_expr_t *expr, sdb_store_obj_t *obj,
359                 sdb_data_t *res, sdb_store_matcher_t *filter);
361 /*
362  * sdb_store_name_matcher:
363  * Creates a matcher matching by the specified object type's name. If 're' is
364  * true, the specified name is treated as a POSIX extended regular expression.
365  * Else, the exact name has to match (case-insensitive).
366  */
367 sdb_store_matcher_t *
368 sdb_store_name_matcher(int type, const char *name, _Bool re);
370 /*
371  * sdb_store_attr_matcher:
372  * Creates a matcher matching attributes based on their value. If 're' is
373  * true, the specified name is treated as a POSIX extended regular expression.
374  * Else, the exact name has to match (case-insensitive).
375  */
376 sdb_store_matcher_t *
377 sdb_store_attr_matcher(const char *name, const char *value, _Bool re);
379 /*
380  * sdb_store_isnull_matcher:
381  * Creates a matcher matching NULL values.
382  */
383 sdb_store_matcher_t *
384 sdb_store_isnull_matcher(sdb_store_expr_t *expr);
386 /*
387  * sdb_store_isnnull_matcher:
388  * Creates a matcher matching non-NULL values.
389  */
390 sdb_store_matcher_t *
391 sdb_store_isnnull_matcher(sdb_store_expr_t *expr);
393 /*
394  * sdb_store_child_matcher:
395  * Creates a matcher matching an object's children of the specified type. It
396  * matches if *any* of those children match 'm'.
397  */
398 sdb_store_matcher_t *
399 sdb_store_child_matcher(int type, sdb_store_matcher_t *m);
401 /*
402  * sdb_store_lt_matcher, sdb_store_le_matcher, sdb_store_eq_matcher,
403  * sdb_store_ge_matcher, sdb_store_gt_matcher:
404  * Create conditional matchers comparing the values of two expressions. The
405  * matcher matches if the left expression compres less than, less or equal
406  * than, equal to, not equal to, greater or equal than, or greater than the
407  * right expression.
408  */
409 sdb_store_matcher_t *
410 sdb_store_lt_matcher(sdb_store_expr_t *left, sdb_store_expr_t *right);
411 sdb_store_matcher_t *
412 sdb_store_le_matcher(sdb_store_expr_t *left, sdb_store_expr_t *right);
413 sdb_store_matcher_t *
414 sdb_store_eq_matcher(sdb_store_expr_t *left, sdb_store_expr_t *right);
415 sdb_store_matcher_t *
416 sdb_store_ne_matcher(sdb_store_expr_t *left, sdb_store_expr_t *right);
417 sdb_store_matcher_t *
418 sdb_store_ge_matcher(sdb_store_expr_t *left, sdb_store_expr_t *right);
419 sdb_store_matcher_t *
420 sdb_store_gt_matcher(sdb_store_expr_t *left, sdb_store_expr_t *right);
422 /*
423  * sdb_store_in_matcher:
424  * Creates a matcher which matches if the right value evaluates to an array
425  * value and the left value is included in that array. See sdb_data_inarray
426  * for more details.
427  */
428 sdb_store_matcher_t *
429 sdb_store_in_matcher(sdb_store_expr_t *left, sdb_store_expr_t *right);
431 /*
432  * sdb_store_regex_matcher:
433  * Creates a matcher which matches the string value the left expression
434  * evaluates to against the regular expression the right expression evaluates
435  * to. The right expression may either be a constant value regular expression
436  * or string or a dynamic value evaluating to a string. In the latter case,
437  * the string is compiled to a regex every time the matcher is executed.
438  */
439 sdb_store_matcher_t *
440 sdb_store_regex_matcher(sdb_store_expr_t *left, sdb_store_expr_t *right);
442 /*
443  * sdb_store_nregex_matcher:
444  * Creates a regex matcher just like sdb_store_regex_matcher except that it
445  * matches in case the regular expression does not match.
446  */
447 sdb_store_matcher_t *
448 sdb_store_nregex_matcher(sdb_store_expr_t *left, sdb_store_expr_t *right);
450 /*
451  * sdb_store_matcher_op_cb:
452  * Callback constructing a matcher operator.
453  */
454 typedef sdb_store_matcher_t *(*sdb_store_matcher_op_cb)
455         (sdb_store_expr_t *, sdb_store_expr_t *);
457 /*
458  * sdb_store_parse_matcher_op:
459  * Parse a matcher operator and return a constructor for the respective
460  * matcher.
461  *
462  * Returns:
463  *  - matcher operator constructor on success
464  *  - NULL else
465  */
466 sdb_store_matcher_op_cb
467 sdb_store_parse_matcher_op(const char *op);
469 /*
470  * sdb_store_parse_object_type_plural:
471  * Parse the type name (plural) of a stored object.
472  *
473  * Returns:
474  *  - the object type on success
475  *  - a negative value else
476  */
477 int
478 sdb_store_parse_object_type_plural(const char *name);
480 /*
481  * sdb_store_parse_field_name:
482  * Parse the name of a stored object's queryable field.
483  *
484  * Returns:
485  *  - the field id on success
486  *  - a negative value else
487  */
488 int
489 sdb_store_parse_field_name(const char *name);
491 /*
492  * sdb_store_matcher_parse_cmp:
493  * Parse a simple compare expression (<obj_type> <op> <expression>).
494  *
495  * Returns:
496  *  - a matcher object on success
497  *  - NULL else
498  */
499 sdb_store_matcher_t *
500 sdb_store_matcher_parse_cmp(const char *obj_type,
501                 const char *op, sdb_store_expr_t *expr);
503 /*
504  * sdb_store_dis_matcher:
505  * Creates a matcher matching the disjunction (logical OR) of two matchers.
506  */
507 sdb_store_matcher_t *
508 sdb_store_dis_matcher(sdb_store_matcher_t *left, sdb_store_matcher_t *right);
510 /*
511  * sdb_store_con_matcher:
512  * Creates a matcher matching the conjunction (logical AND) of two matchers.
513  */
514 sdb_store_matcher_t *
515 sdb_store_con_matcher(sdb_store_matcher_t *left, sdb_store_matcher_t *right);
517 /*
518  * sdb_store_con_matcher::
519  * Creates a matcher matching the inverse (logical NOT) of a matcher.
520  */
521 sdb_store_matcher_t *
522 sdb_store_inv_matcher(sdb_store_matcher_t *m);
524 /*
525  * sdb_store_matcher_matches:
526  * Check whether the specified matcher matches the specified store object. If
527  * specified, the filter will be used to preselect objects for further
528  * evaluation. It is applied to any object that's used during the evaluation
529  * of the matcher. Only those objects matching the filter will be considered.
530  *
531  * Note that the filter is applied to all object types (hosts, service,
532  * metric, attribute). Thus, any object-specific matchers are mostly unsuited
533  * for this purpose and, if used, may result in unexpected behavior.
534  *
535  * Returns:
536  *  - 1 if the object matches
537  *  - 0 else
538  */
539 int
540 sdb_store_matcher_matches(sdb_store_matcher_t *m, sdb_store_obj_t *obj,
541                 sdb_store_matcher_t *filter);
543 /*
544  * sdb_store_lookup_cb:
545  * Lookup callback. It is called for each matching object when looking up data
546  * in the store. The lookup aborts if the callback returns non-zero.
547  */
548 typedef int (*sdb_store_lookup_cb)(sdb_store_obj_t *obj, void *user_data);
550 /*
551  * sdb_store_scan:
552  * Look up objects in the store. The specified callback function is called for
553  * each object in the store matching 'm'. The function performs a full scan of
554  * all hosts stored in the database. If specified, the filter will be used to
555  * preselect objects for further evaluation. See the description of
556  * 'sdb_store_matcher_matches' for details.
557  *
558  * Returns:
559  *  - 0 on success
560  *  - a negative value else
561  */
562 int
563 sdb_store_scan(sdb_store_matcher_t *m, sdb_store_matcher_t *filter,
564                 sdb_store_lookup_cb cb, void *user_data);
566 /*
567  * Flags for serialization functions.
568  *
569  * By default, the full host object will be included in the serialized output.
570  * When specifying any of the flags, the respective information will be left
571  * out. The SKIP_EMPTY flags may be used to skip host objects entirely.
572  */
573 enum {
574         SDB_SKIP_ATTRIBUTES         = 1 << 0,
575         SDB_SKIP_SERVICES           = 1 << 1,
576         SDB_SKIP_METRICS            = 1 << 2,
577         SDB_SKIP_SERVICE_ATTRIBUTES = 1 << 3,
579         SDB_SKIP_ALL                = (1 << 8) - 1,
581         /* skip hosts if they do not reference any services/metrics */
582         SDB_SKIP_EMPTY_SERVICES     = 1 << 8,
583         SDB_SKIP_EMPTY_METRICS      = 1 << 9,
584 };
586 /*
587  * sdb_store_tojson:
588  * Serialize the entire store to JSON and append the result to the specified
589  * buffer. If specified, only objects matching the filter will be included in
590  * the result (see sdb_store_host_tojson for details).
591  *
592  * Returns:
593  *  - 0 on success
594  *  - a negative value on error
595  */
596 int
597 sdb_store_tojson(sdb_strbuf_t *buf, sdb_store_matcher_t *filter, int flags);
599 /*
600  * sdb_store_host_tojson:
601  * Serialize a host object to JSON and append the result to the specified
602  * buffer. If specified, only objects matching the filter will be included in
603  * the result. The filter is applied to each object individually and, thus,
604  * should not be of any object-type specific kind. The filter is never applied
605  * to the specified host object; the caller is responsible for this and for
606  * correctly handling skipped hosts.
607  *
608  * Returns:
609  *  - 0 on success
610  *  - a negative value on error
611  */
612 int
613 sdb_store_host_tojson(sdb_store_obj_t *host, sdb_strbuf_t *buf,
614                 sdb_store_matcher_t *filter, int flags);
616 /*
617  * sdb_store_iter_cb:
618  * Store iterator callback. Iteration stops if the callback returns non-zero.
619  */
620 typedef int (*sdb_store_iter_cb)(sdb_store_obj_t *obj, void *user_data);
622 /*
623  * sdb_store_iterate:
624  * Iterate the entire store, calling the specified callback for each object.
625  * The user_data pointer is passed on to each call of the callback.
626  *
627  * Returns:
628  *  - 0 on success
629  *  - a negative value else
630  */
631 int
632 sdb_store_iterate(sdb_store_iter_cb cb, void *user_data);
634 #ifdef __cplusplus
635 } /* extern "C" */
636 #endif
638 #endif /* ! SDB_CORE_STORE_H */
640 /* vim: set tw=78 sw=4 ts=4 noexpandtab : */