Line data    Source code

       1             : /*
       2             :    Unix SMB/CIFS implementation.
       3             :    In-memory cache
       4             :    Copyright (C) Volker Lendecke 2007
       5             : 
       6             :    This program is free software; you can redistribute it and/or modify
       7             :    it under the terms of the GNU General Public License as published by
       8             :    the Free Software Foundation; either version 3 of the License, or
       9             :    (at your option) any later version.
      10             : 
      11             :    This program is distributed in the hope that it will be useful,
      12             :    but WITHOUT ANY WARRANTY; without even the implied warranty of
      13             :    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
      14             :    GNU General Public License for more details.
      15             : 
      16             :    You should have received a copy of the GNU General Public License
      17             :    along with this program.  If not, see <http://www.gnu.org/licenses/>.
      18             : */
      19             : 
      20             : #include "replace.h"
      21             : #include <talloc.h>
      22             : #include "../lib/util/debug.h"
      23             : #include "../lib/util/samba_util.h"
      24             : #include "../lib/util/dlinklist.h"
      25             : #include "../lib/util/rbtree.h"
      26             : #include "memcache.h"
      27             : 
      28             : static struct memcache *global_cache;
      29             : 
      30             : struct memcache_talloc_value {
      31             :         void *ptr;
      32             :         size_t len;
      33             : };
      34             : 
      35             : struct memcache_element {
      36             :         struct rb_node rb_node;
      37             :         struct memcache_element *prev, *next;
      38             :         size_t keylength, valuelength;
      39             :         uint8_t n;              /* This is really an enum, but save memory */
      40             :         char data[1];           /* placeholder for offsetof */
      41             : };
      42             : 
      43             : struct memcache {
      44             :         struct memcache_element *mru;
      45             :         struct rb_root tree;
      46             :         size_t size;
      47             :         size_t max_size;
      48             : };
      49             : 
      50             : static void memcache_element_parse(struct memcache_element *e,
      51             :                                    DATA_BLOB *key, DATA_BLOB *value);
      52             : 
      53     1371773 : static bool memcache_is_talloc(enum memcache_number n)
      54             : {
      55        6306 :         bool result;
      56             : 
      57     1371773 :         switch (n) {
      58     1246310 :         case GETPWNAM_CACHE:
      59             :         case PDB_GETPWSID_CACHE:
      60             :         case SINGLETON_CACHE_TALLOC:
      61             :         case SHARE_MODE_LOCK_CACHE:
      62             :         case GETWD_CACHE:
      63             :         case VIRUSFILTER_SCAN_RESULTS_CACHE_TALLOC:
      64     1246310 :                 result = true;
      65     1246310 :                 break;
      66      119157 :         default:
      67      119157 :                 result = false;
      68      119157 :                 break;
      69             :         }
      70             : 
      71     1370521 :         return result;
      72             : }
      73             : 
      74       32438 : static int memcache_destructor(struct memcache *cache) {
      75         870 :         struct memcache_element *e, *next;
      76             : 
      77      265527 :         for (e = cache->mru; e != NULL; e = next) {
      78      233089 :                 next = e->next;
      79      233089 :                 TALLOC_FREE(e);
      80             :         }
      81       32438 :         return 0;
      82             : }
      83             : 
      84         750 : struct memcache *memcache_init(TALLOC_CTX *mem_ctx, size_t max_size)
      85             : {
      86          14 :         struct memcache *result;
      87             : 
      88         750 :         result = talloc_zero(mem_ctx, struct memcache);
      89         750 :         if (result == NULL) {
      90           0 :                 return NULL;
      91             :         }
      92         750 :         result->max_size = max_size;
      93         750 :         talloc_set_destructor(result, memcache_destructor);
      94         750 :         return result;
      95             : }
      96             : 
      97         512 : void memcache_set_global(struct memcache *cache)
      98             : {
      99         512 :         TALLOC_FREE(global_cache);
     100         512 :         global_cache = cache;
     101         512 : }
     102             : 
     103    23268734 : static struct memcache_element *memcache_node2elem(struct rb_node *node)
     104             : {
     105    23268734 :         return (struct memcache_element *)
     106             :                 ((char *)node - offsetof(struct memcache_element, rb_node));
     107             : }
     108             : 
     109    14580625 : static void memcache_element_parse(struct memcache_element *e,
     110             :                                    DATA_BLOB *key, DATA_BLOB *value)
     111             : {
     112    14580625 :         key->data = ((uint8_t *)e) + offsetof(struct memcache_element, data);
     113    14580625 :         key->length = e->keylength;
     114    14580625 :         value->data = key->data + e->keylength;
     115    14580625 :         value->length = e->valuelength;
     116    14558920 : }
     117             : 
     118     1291651 : static size_t memcache_element_size(size_t key_length, size_t value_length)
     119             : {
     120     1291651 :         return sizeof(struct memcache_element) - 1 + key_length + value_length;
     121             : }
     122             : 
     123    23185511 : static int memcache_compare(struct memcache_element *e, enum memcache_number n,
     124             :                             DATA_BLOB key)
     125             : {
     126       47827 :         DATA_BLOB this_key, this_value;
     127             : 
     128    23185511 :         if ((int)e->n < (int)n) return 1;
     129    18681822 :         if ((int)e->n > (int)n) return -1;
     130             : 
     131    10555532 :         if (e->keylength < key.length) return 1;
     132    10337639 :         if (e->keylength > key.length) return -1;
     133             : 
     134    10199284 :         memcache_element_parse(e, &this_key, &this_value);
     135    10199284 :         return memcmp(this_key.data, key.data, key.length);
     136             : }
     137             : 
     138     4831957 : static struct memcache_element *memcache_find(
     139             :         struct memcache *cache, enum memcache_number n, DATA_BLOB key)
     140             : {
     141       15602 :         struct rb_node *node;
     142             : 
     143     4831957 :         node = cache->tree.rb_node;
     144             : 
     145    21796974 :         while (node != NULL) {
     146    20520082 :                 struct memcache_element *elem = memcache_node2elem(node);
     147       38395 :                 int cmp;
     148             : 
     149    20520082 :                 cmp = memcache_compare(elem, n, key);
     150    20520082 :                 if (cmp == 0) {
     151     3555065 :                         return elem;
     152             :                 }
     153    16965017 :                 node = (cmp < 0) ? node->rb_left : node->rb_right;
     154             :         }
     155             : 
     156     1268171 :         return NULL;
     157             : }
     158             : 
     159     3623222 : bool memcache_lookup(struct memcache *cache, enum memcache_number n,
     160             :                      DATA_BLOB key, DATA_BLOB *value)
     161             : {
     162       10599 :         struct memcache_element *e;
     163             : 
     164     3623222 :         if (cache == NULL) {
     165     1200648 :                 cache = global_cache;
     166             :         }
     167     3623222 :         if (cache == NULL) {
     168       43399 :                 return false;
     169             :         }
     170             : 
     171     3578682 :         e = memcache_find(cache, n, key);
     172     3578682 :         if (e == NULL) {
     173      524881 :                 return false;
     174             :         }
     175             : 
     176     3049716 :         if (cache->size != 0) {
     177     3049716 :                 DLIST_PROMOTE(cache->mru, e);
     178             :         }
     179             : 
     180     3049716 :         memcache_element_parse(e, &key, value);
     181     3049716 :         return true;
     182             : }
     183             : 
     184     3170741 : void *memcache_lookup_talloc(struct memcache *cache, enum memcache_number n,
     185             :                              DATA_BLOB key)
     186             : {
     187        8798 :         DATA_BLOB value;
     188        8798 :         struct memcache_talloc_value mtv;
     189             : 
     190     3170741 :         if (!memcache_lookup(cache, n, key, &value)) {
     191      272617 :                 return NULL;
     192             :         }
     193             : 
     194     2893778 :         if (value.length != sizeof(mtv)) {
     195           0 :                 return NULL;
     196             :         }
     197             : 
     198     2893778 :         memcpy(&mtv, value.data, sizeof(mtv));
     199             : 
     200     2893778 :         return mtv.ptr;
     201             : }
     202             : 
     203      544719 : static void memcache_delete_element(struct memcache *cache,
     204             :                                     struct memcache_element *e)
     205             : {
     206      544719 :         rb_erase(&e->rb_node, &cache->tree);
     207             : 
     208      544719 :         DLIST_REMOVE(cache->mru, e);
     209             : 
     210      544719 :         if (memcache_is_talloc(e->n)) {
     211        1352 :                 DATA_BLOB cache_key, cache_value;
     212        1352 :                 struct memcache_talloc_value mtv;
     213             : 
     214      544632 :                 memcache_element_parse(e, &cache_key, &cache_value);
     215      544632 :                 SMB_ASSERT(cache_value.length == sizeof(mtv));
     216      544632 :                 memcpy(&mtv, cache_value.data, sizeof(mtv));
     217      544632 :                 cache->size -= mtv.len;
     218      544632 :                 TALLOC_FREE(mtv.ptr);
     219             :         }
     220             : 
     221      544719 :         cache->size -= memcache_element_size(e->keylength, e->valuelength);
     222             : 
     223      544719 :         TALLOC_FREE(e);
     224      544719 : }
     225             : 
     226      746932 : static void memcache_trim(struct memcache *cache, struct memcache_element *e)
     227             : {
     228      746932 :         struct memcache_element *tail = NULL;
     229             : 
     230      746932 :         if (cache->max_size == 0) {
     231        1007 :                 return;
     232             :         }
     233             : 
     234      745922 :         for (tail = DLIST_TAIL(cache->mru);
     235      804288 :              (cache->size > cache->max_size) && (tail != NULL);
     236       58366 :              tail = DLIST_TAIL(cache->mru))
     237             :         {
     238       58369 :                 if (tail == e) {
     239           3 :                         tail = DLIST_PREV(tail);
     240           0 :                         if (tail == NULL) {
     241           0 :                                 break;
     242             :                         }
     243             :                 }
     244       58366 :                 memcache_delete_element(cache, tail);
     245             :         }
     246             : }
     247             : 
     248      466337 : void memcache_delete(struct memcache *cache, enum memcache_number n,
     249             :                      DATA_BLOB key)
     250             : {
     251        1351 :         struct memcache_element *e;
     252             : 
     253      466337 :         if (cache == NULL) {
     254      466336 :                 cache = global_cache;
     255             :         }
     256      466337 :         if (cache == NULL) {
     257          55 :                 return;
     258             :         }
     259             : 
     260      466282 :         e = memcache_find(cache, n, key);
     261      466282 :         if (e == NULL) {
     262         994 :                 return;
     263             :         }
     264             : 
     265      465288 :         memcache_delete_element(cache, e);
     266             : }
     267             : 
     268      790559 : bool memcache_add(struct memcache *cache, enum memcache_number n,
     269             :                   DATA_BLOB key, DATA_BLOB value)
     270             : {
     271        4793 :         struct memcache_element *e;
     272        4793 :         struct rb_node **p;
     273        4793 :         struct rb_node *parent;
     274        4793 :         DATA_BLOB cache_key, cache_value;
     275        4793 :         size_t element_size;
     276             : 
     277      790559 :         if (cache == NULL) {
     278       59941 :                 cache = global_cache;
     279             :         }
     280      790559 :         if (cache == NULL) {
     281        3566 :                 return false;
     282             :         }
     283             : 
     284      786993 :         if (key.length == 0) {
     285           0 :                 return false;
     286             :         }
     287             : 
     288      786993 :         e = memcache_find(cache, n, key);
     289             : 
     290      786993 :         if (e != NULL) {
     291       40061 :                 memcache_element_parse(e, &cache_key, &cache_value);
     292             : 
     293       40061 :                 if (value.length <= cache_value.length) {
     294       40061 :                         if (memcache_is_talloc(e->n)) {
     295           8 :                                 struct memcache_talloc_value mtv;
     296             : 
     297       26809 :                                 SMB_ASSERT(cache_value.length == sizeof(mtv));
     298       26809 :                                 memcpy(&mtv, cache_value.data, sizeof(mtv));
     299       26809 :                                 cache->size -= mtv.len;
     300       26809 :                                 TALLOC_FREE(mtv.ptr);
     301             :                         }
     302             :                         /*
     303             :                          * We can reuse the existing record
     304             :                          */
     305       40061 :                         memcpy(cache_value.data, value.data, value.length);
     306       40061 :                         e->valuelength = value.length;
     307             : 
     308       40061 :                         if (memcache_is_talloc(e->n)) {
     309           8 :                                 struct memcache_talloc_value mtv;
     310             : 
     311       26809 :                                 SMB_ASSERT(cache_value.length == sizeof(mtv));
     312       26809 :                                 memcpy(&mtv, cache_value.data, sizeof(mtv));
     313       26809 :                                 cache->size += mtv.len;
     314             :                         }
     315       40061 :                         return true;
     316             :                 }
     317             : 
     318           0 :                 memcache_delete_element(cache, e);
     319             :         }
     320             : 
     321      746932 :         element_size = memcache_element_size(key.length, value.length);
     322             : 
     323      746932 :         e = talloc_size(cache, element_size);
     324      746932 :         if (e == NULL) {
     325           0 :                 DEBUG(0, ("talloc failed\n"));
     326           0 :                 return false;
     327             :         }
     328      746932 :         talloc_set_type(e, struct memcache_element);
     329             : 
     330      746932 :         e->n = n;
     331      746932 :         e->keylength = key.length;
     332      746932 :         e->valuelength = value.length;
     333             : 
     334      746932 :         memcache_element_parse(e, &cache_key, &cache_value);
     335      746932 :         memcpy(cache_key.data, key.data, key.length);
     336      746932 :         memcpy(cache_value.data, value.data, value.length);
     337             : 
     338      746932 :         parent = NULL;
     339      746932 :         p = &cache->tree.rb_node;
     340             : 
     341     3412361 :         while (*p) {
     342     2665429 :                 struct memcache_element *elem = memcache_node2elem(*p);
     343        9432 :                 int cmp;
     344             : 
     345     2665429 :                 parent = (*p);
     346             : 
     347     2665429 :                 cmp = memcache_compare(elem, n, key);
     348             : 
     349     2665429 :                 p = (cmp < 0) ? &(*p)->rb_left : &(*p)->rb_right;
     350             :         }
     351             : 
     352      746932 :         rb_link_node(&e->rb_node, parent, p);
     353      746932 :         rb_insert_color(&e->rb_node, &cache->tree);
     354             : 
     355      746932 :         DLIST_ADD(cache->mru, e);
     356             : 
     357      746932 :         cache->size += element_size;
     358      746932 :         if (memcache_is_talloc(e->n)) {
     359        3686 :                 struct memcache_talloc_value mtv;
     360             : 
     361      653114 :                 SMB_ASSERT(cache_value.length == sizeof(mtv));
     362      653114 :                 memcpy(&mtv, cache_value.data, sizeof(mtv));
     363      653114 :                 cache->size += mtv.len;
     364             :         }
     365      746932 :         memcache_trim(cache, e);
     366             : 
     367      746932 :         return true;
     368             : }
     369             : 
     370      695111 : bool memcache_add_talloc(struct memcache *cache, enum memcache_number n,
     371             :                          DATA_BLOB key, void *pptr)
     372             : {
     373        3701 :         struct memcache_talloc_value mtv;
     374      695111 :         void **ptr = (void **)pptr;
     375             : 
     376      695111 :         if (cache == NULL) {
     377      616416 :                 cache = global_cache;
     378             :         }
     379      695111 :         if (cache == NULL) {
     380       15181 :                 return false;
     381             :         }
     382             : 
     383      679923 :         mtv.len = talloc_total_size(*ptr);
     384      679923 :         mtv.ptr = talloc_move(cache, ptr);
     385             : 
     386      679923 :         return memcache_add(cache, n, key, data_blob_const(&mtv, sizeof(mtv)));
     387             : }
     388             : 
     389       23291 : void memcache_flush(struct memcache *cache, enum memcache_number n)
     390             : {
     391           1 :         struct rb_node *node;
     392             : 
     393       23291 :         if (cache == NULL) {
     394       22087 :                 cache = global_cache;
     395             :         }
     396       23291 :         if (cache == NULL) {
     397         867 :                 return;
     398             :         }
     399             : 
     400             :         /*
     401             :          * Find the smallest element of number n
     402             :          */
     403             : 
     404       22424 :         node = cache->tree.rb_node;
     405       22424 :         if (node == NULL) {
     406          86 :                 return;
     407             :         }
     408             : 
     409             :         /*
     410             :          * First, find *any* element of number n
     411             :          */
     412             : 
     413       43522 :         while (true) {
     414       65859 :                 struct memcache_element *elem = memcache_node2elem(node);
     415           1 :                 struct rb_node *next;
     416             : 
     417       65859 :                 if ((int)elem->n == (int)n) {
     418       21062 :                         break;
     419             :                 }
     420             : 
     421       44796 :                 if ((int)elem->n < (int)n) {
     422       24087 :                         next = node->rb_right;
     423             :                 }
     424             :                 else {
     425       20709 :                         next = node->rb_left;
     426             :                 }
     427       44796 :                 if (next == NULL) {
     428        1275 :                         break;
     429             :                 }
     430       43521 :                 node = next;
     431             :         }
     432             : 
     433             :         /*
     434             :          * Then, find the leftmost element with number n
     435             :          */
     436             : 
     437           3 :         while (true) {
     438       22340 :                 struct rb_node *prev = rb_prev(node);
     439           1 :                 struct memcache_element *elem;
     440             : 
     441       22340 :                 if (prev == NULL) {
     442          43 :                         break;
     443             :                 }
     444       22296 :                 elem = memcache_node2elem(prev);
     445       22296 :                 if ((int)elem->n != (int)n) {
     446       22294 :                         break;
     447             :                 }
     448           2 :                 node = prev;
     449             :         }
     450             : 
     451       43403 :         while (node != NULL) {
     452       42897 :                 struct memcache_element *e = memcache_node2elem(node);
     453       42897 :                 struct rb_node *next = rb_next(node);
     454             : 
     455       42897 :                 if (e->n != n) {
     456       21832 :                         break;
     457             :                 }
     458             : 
     459       21065 :                 memcache_delete_element(cache, e);
     460       21065 :                 node = next;
     461             :         }
     462             : }
     463             : 
     464       14784 : void gfree_memcache(void)
     465             : {
     466       14784 :         TALLOC_FREE(global_cache);
     467       14784 : }