Refactor test framework to run pre/post just once.
[awesomized/libmemcached] / tests / test.c
index ef6afb7460414974089410564e82673ace1800ef..b177f64fdffdbb8a7d84f401ab5dcbd30691f10f 100644 (file)
+/* uTest
+ * Copyright (C) 2006-2009 Brian Aker
+ * All rights reserved.
+ *
+ * Use and distribution licensed under the BSD license.  See
+ * the COPYING file in the parent directory for full text.
+ */
+
 /*
   Sample test application.
 */
 #include <assert.h>
-#include <memcached.h>
-#include <stdio.h>
 #include <stdlib.h>
 #include <string.h>
 #include <sys/time.h>
 #include <sys/types.h>
 #include <sys/stat.h>
+#include <sys/wait.h>
 #include <unistd.h>
 #include <time.h>
-#include "../lib/common.h"
+#include <fnmatch.h>
+#include <stdint.h>
 
-long int timedif(struct timeval a, struct timeval b)
-{
-  register int us, s;
+#include "test.h"
 
-  us = a.tv_usec - b.tv_usec;
-  us /= 1000;
-  s = a.tv_sec - b.tv_sec;
-  s *= 1000;
-  return s + us;
+static void world_stats_print(world_stats_st *stats)
+{
+  fputc('\n', stderr);
+  fprintf(stderr, "Total Collections\t\t\t\t%u\n", stats->collection_total);
+  fprintf(stderr, "\tFailed Collections\t\t\t%u\n", stats->collection_failed);
+  fprintf(stderr, "\tSkipped Collections\t\t\t%u\n", stats->collection_skipped);
+  fprintf(stderr, "\tSucceeded Collections\t\t%u\n", stats->collection_success);
+  fputc('\n', stderr);
+  fprintf(stderr, "Total\t\t\t\t%u\n", stats->total);
+  fprintf(stderr, "\tFailed\t\t\t%u\n", stats->failed);
+  fprintf(stderr, "\tSkipped\t\t\t%u\n", stats->skipped);
+  fprintf(stderr, "\tSucceeded\t\t%u\n", stats->success);
 }
 
-void init_test(memcached_st *not_used)
+static long int timedif(struct timeval a, struct timeval b)
 {
-  memcached_st memc;
+  long us, s;
 
-  (void)memcached_create(&memc);
-  memcached_free(&memc);
+  us = (int)(a.tv_usec - b.tv_usec);
+  us /= 1000;
+  s = (int)(a.tv_sec - b.tv_sec);
+  s *= 1000;
+  return s + us;
 }
 
-void allocation_test(memcached_st *not_used)
-{
-  memcached_st *memc;
-  memc= memcached_create(NULL);
-  assert(memc);
-  memcached_free(memc);
+const char *test_strerror(test_return_t code)
+{
+  switch (code) {
+  case TEST_SUCCESS:
+    return "ok";
+  case TEST_FAILURE:
+    return "failed";
+  case TEST_MEMORY_ALLOCATION_FAILURE:
+    return "memory allocation";
+  case TEST_SKIPPED:
+    return "skipped";
+  case TEST_MAXIMUM_RETURN:
+  default:
+    fprintf(stderr, "Unknown return value\n");
+    abort();
+  }
 }
 
-void clone_test(memcached_st *memc)
+void create_core(void)
 {
-  /* All null? */
+  if (getenv("LIBMEMCACHED_NO_COREDUMP") == NULL)
   {
-    memcached_st *clone;
-    clone= memcached_clone(NULL, NULL);
-    assert(clone);
-    memcached_free(clone);
-  }
-
-  /* Can we init from null? */
-  {
-    memcached_st *clone;
-    clone= memcached_clone(NULL, memc);
-    assert(clone);
-    memcached_free(clone);
-  }
-
-  /* Can we init from struct? */
-  {
-    memcached_st declared_clone;
-    memcached_st *clone;
-    clone= memcached_clone(&declared_clone, NULL);
-    assert(clone);
-    memcached_free(clone);
-  }
+    pid_t pid= fork();
 
-  /* Can we init from struct? */
-  {
-    memcached_st declared_clone;
-    memcached_st *clone;
-    clone= memcached_clone(&declared_clone, memc);
-    assert(clone);
-    memcached_free(clone);
+    if (pid == 0)
+    {
+      abort();
+    }
+    else
+    {
+      while (waitpid(pid, NULL, 0) != pid)
+      {
+        ;
+      }
+    }
   }
 }
 
-void connection_test(memcached_st *memc)
-{
-  memcached_return rc;
-
-  rc= memcached_server_add(memc, "localhost", 0);
-  assert(rc == MEMCACHED_SUCCESS);
-}
 
-void error_test(memcached_st *memc)
+static test_return_t _runner_default(test_callback_fn func, void *p)
 {
-  memcached_return rc;
-
-  for (rc= MEMCACHED_SUCCESS; rc < MEMCACHED_MAXIMUM_RETURN; rc++)
+  if (func)
   {
-    printf("Error %d -> %s\n", rc, memcached_strerror(memc, rc));
+    return func(p);
   }
-}
-
-void set_test(memcached_st *memc)
-{
-  memcached_return rc;
-  char *key= "foo";
-  char *value= "when we sanitize";
-
-  rc= memcached_set(memc, key, strlen(key), 
-                    value, strlen(value),
-                    (time_t)0, (uint16_t)0);
-  assert(rc == MEMCACHED_SUCCESS);
-}
-
-void add_test(memcached_st *memc)
-{
-  memcached_return rc;
-  char *key= "foo";
-  char *value= "when we sanitize";
-
-  rc= memcached_add(memc, key, strlen(key), 
-                    value, strlen(value),
-                    (time_t)0, (uint16_t)0);
-  assert(rc == MEMCACHED_NOTSTORED);
-}
-
-void replace_test(memcached_st *memc)
-{
-  memcached_return rc;
-  char *key= "foo";
-  char *value= "when we sanitize";
-
-  rc= memcached_replace(memc, key, strlen(key), 
-                    value, strlen(value),
-                    (time_t)0, (uint16_t)0);
-  assert(rc == MEMCACHED_SUCCESS);
-}
-
-void delete_test(memcached_st *memc)
-{
-  memcached_return rc;
-  char *key= "foo";
-  char *value= "when we sanitize";
-
-  rc= memcached_set(memc, key, strlen(key), 
-                    value, strlen(value),
-                    (time_t)0, (uint16_t)0);
-  assert(rc == MEMCACHED_SUCCESS);
-
-  rc= memcached_delete(memc, key, strlen(key), (time_t)0);
-  assert(rc == MEMCACHED_SUCCESS);
-}
-
-void flush_test(memcached_st *memc)
-{
-  memcached_return rc;
-
-  rc= memcached_flush(memc, 0);
-  assert(rc == MEMCACHED_SUCCESS);
-}
-
-void get_test(memcached_st *memc)
-{
-  memcached_return rc;
-  char *key= "foo";
-  char *string;
-  size_t string_length;
-  uint16_t flags;
-
-  rc= memcached_delete(memc, key, strlen(key), (time_t)0);
-  assert(rc == MEMCACHED_SUCCESS || rc == MEMCACHED_NOTFOUND);
-
-  string= memcached_get(memc, key, strlen(key),
-                        &string_length, &flags, &rc);
-
-  assert(rc == MEMCACHED_NOTFOUND);
-  assert(string_length ==  0);
-  assert(!string);
-}
-
-void get_test2(memcached_st *memc)
-{
-  memcached_return rc;
-  char *key= "foo";
-  char *value= "when we sanitize";
-  char *string;
-  size_t string_length;
-  uint16_t flags;
-
-  rc= memcached_set(memc, key, strlen(key), 
-                    value, strlen(value),
-                    (time_t)0, (uint16_t)0);
-  assert(rc == MEMCACHED_SUCCESS);
-
-  string= memcached_get(memc, key, strlen(key),
-                        &string_length, &flags, &rc);
-
-  assert(string);
-  assert(rc == MEMCACHED_SUCCESS);
-  assert(string_length == strlen(value));
-  assert(!memcmp(string, value, string_length));
-
-  free(string);
-}
-
-void set_test2(memcached_st *memc)
-{
-  memcached_return rc;
-  char *key= "foo";
-  char *value= "train in the brain";
-  size_t value_length= strlen(value);
-  unsigned int x;
-
-  for (x= 0; x < 10; x++)
+  else
   {
-    rc= memcached_set(memc, key, strlen(key), 
-                      value, value_length,
-                      (time_t)0, (uint16_t)0);
-    assert(rc == MEMCACHED_SUCCESS);
+    return TEST_SUCCESS;
   }
 }
 
-void set_test3(memcached_st *memc)
-{
-  memcached_return rc;
-  char *key= "foo";
-  char *value;
-  size_t value_length= 8191;
-  unsigned int x;
-
-  value = (char*)malloc(value_length);
-  assert(value);
-
-  for (x= 0; x < value_length; x++)
-    value[x] = (char) (x % 127);
-
-  for (x= 0; x < 1; x++)
-  {
-    rc= memcached_set(memc, key, strlen(key), 
-                      value, value_length,
-                      (time_t)0, (uint16_t)0);
-    assert(rc == MEMCACHED_SUCCESS);
-  }
-
-  free(value);
-}
+static world_runner_st defualt_runners= {
+  _runner_default,
+  _runner_default,
+  _runner_default
+};
 
-void get_test3(memcached_st *memc)
+static test_return_t _default_callback(void *p)
 {
-  memcached_return rc;
-  char *key= "foo";
-  char *value;
-  size_t value_length= 8191;
-  char *string;
-  size_t string_length;
-  uint16_t flags;
-  int x;
-
-  value = (char*)malloc(value_length);
-  assert(value);
-
-  for (x= 0; x < value_length; x++)
-    value[x] = (char) (x % 127);
-
-  rc= memcached_set(memc, key, strlen(key), 
-                    value, value_length,
-                    (time_t)0, (uint16_t)0);
-  assert(rc == MEMCACHED_SUCCESS);
-
-  string= memcached_get(memc, key, strlen(key),
-                        &string_length, &flags, &rc);
+  (void)p;
 
-  assert(rc == MEMCACHED_SUCCESS);
-  assert(string);
-  assert(string_length == value_length);
-  assert(!memcmp(string, value, string_length));
-
-  free(string);
-  free(value);
+  return TEST_SUCCESS;
 }
 
-void get_test4(memcached_st *memc)
+static inline void set_default_fn(test_callback_fn *fn)
 {
-  memcached_return rc;
-  char *key= "foo";
-  char *value;
-  size_t value_length= 8191;
-  char *string;
-  size_t string_length;
-  uint16_t flags;
-  int x;
-
-  value = (char*)malloc(value_length);
-  assert(value);
-
-  for (x= 0; x < value_length; x++)
-    value[x] = (char) (x % 127);
-
-  rc= memcached_set(memc, key, strlen(key), 
-                    value, value_length,
-                    (time_t)0, (uint16_t)0);
-  assert(rc == MEMCACHED_SUCCESS);
-
-  for (x= 0; x < 10; x++)
+  if (*fn == NULL)
   {
-    string= memcached_get(memc, key, strlen(key),
-                          &string_length, &flags, &rc);
-
-    assert(rc == MEMCACHED_SUCCESS);
-    assert(string);
-    assert(string_length == value_length);
-    assert(!memcmp(string, value, string_length));
-    free(string);
+    *fn= _default_callback;
   }
-
-  free(value);
 }
 
-void stats_servername_test(memcached_st *memc)
+static collection_st *init_world(world_st *world)
 {
-  memcached_return rc;
-  memcached_stat_st stat;
-  rc= memcached_stat_servername(&stat, NULL,
-                                 "localhost", 
-                                 MEMCACHED_DEFAULT_PORT);
-}
-
-void increment_test(memcached_st *memc)
-{
-  unsigned int new_number;
-  memcached_return rc;
-  char *key= "number";
-  char *value= "0";
-
-  rc= memcached_set(memc, key, strlen(key), 
-                    value, strlen(value),
-                    (time_t)0, (uint16_t)0);
-  assert(rc == MEMCACHED_SUCCESS);
-
-  rc= memcached_increment(memc, key, strlen(key),
-                          1, &new_number);
-  assert(rc == MEMCACHED_SUCCESS);
-  assert(new_number == 1);
-
-  rc= memcached_increment(memc, key, strlen(key),
-                          1, &new_number);
-  assert(rc == MEMCACHED_SUCCESS);
-  assert(new_number == 2);
-}
-
-void decrement_test(memcached_st *memc)
-{
-  unsigned int new_number;
-  memcached_return rc;
-  char *key= "number";
-  char *value= "3";
-
-  rc= memcached_set(memc, key, strlen(key), 
-                    value, strlen(value),
-                    (time_t)0, (uint16_t)0);
-  assert(rc == MEMCACHED_SUCCESS);
+  if (! world->runner)
+  {
+    world->runner= &defualt_runners;
+  }
 
-  rc= memcached_decrement(memc, key, strlen(key),
-                          1, &new_number);
-  assert(rc == MEMCACHED_SUCCESS);
-  assert(new_number == 2);
+  set_default_fn(&world->collection.startup);
+  set_default_fn(&world->collection.shutdown);
 
-  rc= memcached_decrement(memc, key, strlen(key),
-                          1, &new_number);
-  assert(rc == MEMCACHED_SUCCESS);
-  assert(new_number == 1);
+  return world->collections;
 }
 
-void quit_test(memcached_st *memc)
-{
-  memcached_return rc;
-  char *key= "fudge";
-  char *value= "sanford and sun";
-
-  rc= memcached_set(memc, key, strlen(key), 
-                    value, strlen(value),
-                    (time_t)10, (uint16_t)3);
-  assert(rc == MEMCACHED_SUCCESS);
-  memcached_quit(memc);
 
-  rc= memcached_set(memc, key, strlen(key), 
-                    value, strlen(value),
-                    (time_t)50, (uint16_t)9);
-  assert(rc == MEMCACHED_SUCCESS);
-}
-
-void mget_test(memcached_st *memc)
+int main(int argc, char *argv[])
 {
-  memcached_return rc;
-  char *keys[]= {"fudge", "son", "food"};
-  size_t key_length[]= {5, 3, 4};
+  test_return_t return_code;
   unsigned int x;
-  uint16_t flags;
-
-  char return_key[MEMCACHED_MAX_KEY];
-  size_t return_key_length;
-  char *return_value;
-  size_t return_value_length;
+  char *collection_to_run= NULL;
+  char *wildcard= NULL;
+  world_st world;
+  collection_st *collection;
+  collection_st *next;
+  void *world_ptr;
 
-  /* We need to empty the server before continueing test */
-  rc= memcached_flush(memc, 0);
-  assert(rc == MEMCACHED_SUCCESS);
+  world_stats_st stats;
 
-  rc= memcached_mget(memc, keys, key_length, 3);
-  assert(rc == MEMCACHED_SUCCESS);
+  memset(&stats, 0, sizeof(stats));
+  memset(&world, 0, sizeof(world));
+  get_world(&world);
 
-  while ((return_value= memcached_fetch(memc, return_key, &return_key_length, 
-                      &return_value_length, &flags, &rc)) != NULL)
-  {
-    assert(return_value);
-  }
-  assert(!return_value);
-  assert(return_value_length == 0);
-  assert(rc == MEMCACHED_NOTFOUND);
+  collection= init_world(&world);
 
-  for (x= 0; x < 3; x++)
+  if (world.create)
   {
-    rc= memcached_set(memc, keys[x], key_length[x], 
-                      keys[x], key_length[x],
-                      (time_t)50, (uint16_t)9);
-    assert(rc == MEMCACHED_SUCCESS);
+    test_return_t error;
+    world_ptr= world.create(&error);
+    if (error != TEST_SUCCESS)
+      exit(1);
   }
-
-  rc= memcached_mget(memc, keys, key_length, 3);
-  assert(rc == MEMCACHED_SUCCESS);
-
-  x= 0;
-  while ((return_value= memcached_fetch(memc, return_key, &return_key_length, 
-                                        &return_value_length, &flags, &rc)))
+  else
   {
-    assert(return_value);
-    assert(rc == MEMCACHED_SUCCESS);
-    assert(return_key_length == return_value_length);
-    assert(!memcmp(return_value, return_key, return_value_length));
-    free(return_value);
-    x++;
+    world_ptr= NULL;
   }
-}
-
-void get_stats_keys(memcached_st *memc)
-{
- char **list;
- char **ptr;
- memcached_stat_st stat;
- memcached_return rc;
-
- list= memcached_stat_get_keys(memc, &stat, &rc);
- assert(rc == MEMCACHED_SUCCESS);
- for (ptr= list; *ptr; ptr++)
-   printf("Found key %s\n", *ptr);
- fflush(stdout);
-
- free(list);
-}
-
-void get_stats(memcached_st *memc)
-{
- unsigned int x;
- char **list;
- char **ptr;
- memcached_return rc;
- memcached_stat_st *stat;
-
- stat= memcached_stat(memc, NULL, &rc);
- assert(rc == MEMCACHED_SUCCESS);
 
- assert(rc == MEMCACHED_SUCCESS);
- assert(stat);
-
- for (x= 0; x < memcached_server_count(memc); x++)
- {
-   list= memcached_stat_get_keys(memc, &stat[x], &rc);
-   assert(rc == MEMCACHED_SUCCESS);
-   for (ptr= list; *ptr; ptr++)
-     printf("Found key %s\n", *ptr);
-
-   free(list);
- }
-
- free(stat);
-}
-
-void add_host_test(memcached_st *memc)
-{
-  unsigned int x;
-  memcached_server_st *servers;
-  memcached_return rc;
-  char servername[]= "0.example.com";
+  if (argc > 1)
+    collection_to_run= argv[1];
 
-  servers= memcached_server_list_append(NULL, servername, 400, &rc);
-  assert(servers);
-  assert(1 == memcached_server_list_count(servers));
+  if (argc == 3)
+    wildcard= argv[2];
 
-  for (x= 2; x < 20; x++)
+  for (next= collection; next->name; next++)
   {
-    char buffer[SMALL_STRING_LEN];
-
-    snprintf(buffer, SMALL_STRING_LEN, "%u.example.com", 400+x);
-    servers= memcached_server_list_append(servers, buffer, 401, 
-                                     &rc);
-    assert(rc == MEMCACHED_SUCCESS);
-    assert(x == memcached_server_list_count(servers));
-  }
-
-  rc= memcached_server_push(memc, servers);
-  assert(rc == MEMCACHED_SUCCESS);
-  rc= memcached_server_push(memc, servers);
-  assert(rc == MEMCACHED_SUCCESS);
-
-  memcached_server_list_free(servers);
-}
-
-/* We don't test the behavior itself, we test the switches */
-void behavior_test(memcached_st *memc)
-{
-  unsigned long long value;
-  unsigned int set= 1;
+    test_return_t collection_rc= TEST_SUCCESS;
+    test_st *run;
+    bool failed= false;
+    bool skipped= false;
 
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_NO_BLOCK, &set);
-  value= memcached_behavior_get(memc, MEMCACHED_BEHAVIOR_NO_BLOCK);
-  assert(value == 1);
+    run= next->tests;
+    if (collection_to_run && fnmatch(collection_to_run, next->name, 0))
+      continue;
 
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_TCP_NODELAY, &set);
-  value= memcached_behavior_get(memc, MEMCACHED_BEHAVIOR_TCP_NODELAY);
-  assert(value == 1);
+    stats.collection_total++;
 
-  set= MEMCACHED_HASH_MD5;
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_HASH, &set);
-  value= memcached_behavior_get(memc, MEMCACHED_BEHAVIOR_HASH);
-  assert(value == MEMCACHED_HASH_MD5);
+    collection_rc= world.collection.startup(world_ptr);
 
-  set= 0;
+    if (collection_rc != TEST_SUCCESS)
+      goto skip_pre;
 
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_NO_BLOCK, &set);
-  value= memcached_behavior_get(memc, MEMCACHED_BEHAVIOR_NO_BLOCK);
-  assert(value == 0);
+    if (next->pre)
+    {
+      collection_rc= world.runner->pre(next->pre, world_ptr);
+    }
 
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_TCP_NODELAY, &set);
-  value= memcached_behavior_get(memc, MEMCACHED_BEHAVIOR_TCP_NODELAY);
-  assert(value == 0);
+skip_pre:
+    switch (collection_rc)
+    {
+      case TEST_SUCCESS:
+        fprintf(stderr, "\n%s\n\n", next->name);
+        break;
+      case TEST_FAILURE:
+        fprintf(stderr, "\n%s [ failed ]\n\n", next->name);
+        stats.collection_failed++;
+        goto cleanup;
+      case TEST_SKIPPED:
+        fprintf(stderr, "\n%s [ skipping ]\n\n", next->name);
+        stats.collection_skipped++;
+        goto cleanup;
+      case TEST_MEMORY_ALLOCATION_FAILURE:
+      case TEST_MAXIMUM_RETURN:
+      default:
+        assert(0);
+        break;
+    }
 
-  set= MEMCACHED_HASH_DEFAULT;
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_HASH, &set);
-  value= memcached_behavior_get(memc, MEMCACHED_BEHAVIOR_HASH);
-  assert(value == MEMCACHED_HASH_DEFAULT);
 
-  set= MEMCACHED_HASH_CRC;
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_HASH, &set);
-  value= memcached_behavior_get(memc, MEMCACHED_BEHAVIOR_HASH);
-  assert(value == MEMCACHED_HASH_CRC);
+    for (x= 0; run->name; run++)
+    {
+      struct timeval start_time, end_time;
+      long int load_time= 0;
 
-  value= memcached_behavior_get(memc, MEMCACHED_BEHAVIOR_SOCKET_SEND_SIZE);
-  assert(value > 0);
+      if (wildcard && fnmatch(wildcard, run->name, 0))
+        continue;
 
-  value= memcached_behavior_get(memc, MEMCACHED_BEHAVIOR_SOCKET_RECV_SIZE);
-  assert(value > 0);
-}
+      fprintf(stderr, "Testing %s", run->name);
 
-/* Test case provided by Cal Haldenbrand */
-void user_supplied_bug1(memcached_st *memc)
-{
-  unsigned int setter= 1;
-  unsigned int x;
+      if (world.test.startup)
+      {
+        world.test.startup(world_ptr);
+      }
 
-  unsigned long long total= 0;
-  int size= 0;
-  char key[10];
-  char randomstuff[6 * 1024]; 
-  memcached_return rc;
+      if (run->requires_flush && world.test.flush)
+      {
+        world.test.flush(world_ptr);
+      }
 
-  memset(randomstuff, 0, 6 * 1024);
+      if (world.test.pre_run)
+      {
+        world.test.pre_run(world_ptr);
+      }
 
-  /* We just keep looking at the same values over and over */
-  srandom(10);
 
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_NO_BLOCK, &setter);
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_TCP_NODELAY, &setter);
+      // Runner code
+      {
+#if 0
+        if (next->pre && world.runner->pre)
+        {
+          return_code= world.runner->pre(next->pre, world_ptr);
 
+          if (return_code != TEST_SUCCESS)
+          {
+            goto error;
+          }
+        }
+#endif
 
-  /* add key */
-  for (x= 0 ; total < 20 * 1024576 ; x++ )
-  {
-    unsigned int j= 0;
+        gettimeofday(&start_time, NULL);
+        return_code= world.runner->run(run->test_fn, world_ptr);
+        gettimeofday(&end_time, NULL);
+        load_time= timedif(end_time, start_time);
 
-    size= (rand() % ( 5 * 1024 ) ) + 400;
-    memset(randomstuff, 0, 6 * 1024);
-    assert(size < 6 * 1024); /* Being safe here */
+#if 0
+        if (next->post && world.runner->post)
+        {
+          (void) world.runner->post(next->post, world_ptr);
+        }
+#endif
+      }
 
-    for (j= 0 ; j < size ;j++) 
-      randomstuff[j] = (char) (rand() % 26) + 97;
+      if (world.test.post_run)
+      {
+        world.test.post_run(world_ptr);
+      }
 
-    total += size;
-    sprintf(key, "%d", x);
-    rc = memcached_set(memc, key, strlen(key), 
-                       randomstuff, strlen(randomstuff), 10, 0);
-    /* If we fail, lets try again */
-    if (rc != MEMCACHED_SUCCESS)
-      rc = memcached_set(memc, key, strlen(key), 
-                         randomstuff, strlen(randomstuff), 10, 0);
-    assert(rc == MEMCACHED_SUCCESS);
-  }
-}
+      stats.total++;
 
-/* Test case provided by Cal Haldenbrand */
-void user_supplied_bug2(memcached_st *memc)
-{
-  int errors;
-  unsigned int setter;
-  unsigned int x;
-  unsigned long long total;
+      fprintf(stderr, "\t\t\t\t\t");
 
-  setter= 1;
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_NO_BLOCK, &setter);
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_TCP_NODELAY, &setter);
-#ifdef NOT_YET
-  setter = 20 * 1024576;
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_SOCKET_SEND_SIZE, &setter);
-  setter = 20 * 1024576;
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_SOCKET_RECV_SIZE, &setter);
-  getter = memcached_behavior_get(memc, MEMCACHED_BEHAVIOR_SOCKET_SEND_SIZE);
-  getter = memcached_behavior_get(memc, MEMCACHED_BEHAVIOR_SOCKET_RECV_SIZE);
+      switch (return_code)
+      {
+      case TEST_SUCCESS:
+        fprintf(stderr, "%ld.%03ld ", load_time / 1000, load_time % 1000);
+        stats.success++;
+        break;
+      case TEST_FAILURE:
+        stats.failed++;
+        failed= true;
+        break;
+      case TEST_SKIPPED:
+        stats.skipped++;
+        skipped= true;
+        break;
+      case TEST_MEMORY_ALLOCATION_FAILURE:
+        fprintf(stderr, "Exhausted memory, quitting\n");
+        abort();
+      case TEST_MAXIMUM_RETURN:
+      default:
+        assert(0); // Coding error.
+        break;
+      }
 
-  for (x= 0, errors= 0, total= 0 ; total < 20 * 1024576 ; x++)
-#endif
+      fprintf(stderr, "[ %s ]\n", test_strerror(return_code));
 
-  for (x= 0, errors= 0, total= 0 ; total < 24576 ; x++)
-  {
-    memcached_return rc= MEMCACHED_SUCCESS;
-    char buffer[SMALL_STRING_LEN];
-    uint16_t flags= 0;
-    size_t val_len= 0;
-    char *getval;
+      if (world.test.on_error)
+      {
+        test_return_t rc;
+        rc= world.test.on_error(return_code, world_ptr);
 
-    memset(buffer, 0, SMALL_STRING_LEN);
+        if (rc != TEST_SUCCESS)
+          break;
+      }
+    }
 
-    snprintf(buffer, SMALL_STRING_LEN, "%u", x);
-    getval= memcached_get(memc, buffer, strlen(buffer),
-                           &val_len, &flags, &rc);             
-    if (rc != MEMCACHED_SUCCESS) 
+    if (next->post && world.runner->post)
     {
-      if (rc == MEMCACHED_NOTFOUND)
-        errors++;
-      else
-        assert(0);
-
-      continue;
+      (void) world.runner->post(next->post, world_ptr);
     }
-    total+= val_len;
-    errors= 0;
-    free(getval);
-  }
-}
-
-/* Do a large mget() over all the keys we think exist */
-#define KEY_COUNT 3000 // * 1024576
-void user_supplied_bug3(memcached_st *memc)
-{
-  memcached_return rc;
-  unsigned int setter;
-  unsigned int x;
-  char **keys;
-  size_t key_lengths[KEY_COUNT];
 
-  setter= 1;
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_NO_BLOCK, &setter);
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_TCP_NODELAY, &setter);
-#ifdef NOT_YET
-  setter = 20 * 1024576;
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_SOCKET_SEND_SIZE, &setter);
-  setter = 20 * 1024576;
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_SOCKET_RECV_SIZE, &setter);
-  getter = memcached_behavior_get(memc, MEMCACHED_BEHAVIOR_SOCKET_SEND_SIZE);
-  getter = memcached_behavior_get(memc, MEMCACHED_BEHAVIOR_SOCKET_RECV_SIZE);
-#endif
-
-  keys= (char **)malloc(sizeof(char *) * KEY_COUNT);
-  assert(keys);
-  memset(keys, 0, (sizeof(char *) * KEY_COUNT));
-  for (x= 0; x < KEY_COUNT; x++)
-  {
-    char buffer[30];
-
-    snprintf(buffer, 30, "%u", x);
-    keys[x]= strdup(buffer);
-    key_lengths[x]= strlen(keys[x]);
-  }
-
-  rc= memcached_mget(memc, keys, key_lengths, KEY_COUNT);
-  assert(rc == MEMCACHED_SUCCESS);
-
-  /* Turn this into a help function */
-  {
-    char return_key[MEMCACHED_MAX_KEY];
-    size_t return_key_length;
-    char *return_value;
-    size_t return_value_length;
-    uint16_t flags;
-
-    while ((return_value= memcached_fetch(memc, return_key, &return_key_length, 
-                                          &return_value_length, &flags, &rc)))
+    if (! failed && ! skipped)
     {
-      assert(return_value);
-      assert(rc == MEMCACHED_SUCCESS);
-      free(return_value);
+      stats.collection_success++;
     }
-  }
+cleanup:
 
-  for (x= 0; x < KEY_COUNT; x++)
-    free(keys[x]);
-  free(keys);
-}
-
-void string_alloc_null(memcached_st *memc)
-{
-  memcached_string_st *string;
-
-  string= memcached_string_create(memc, 0);
-  assert(string);
-  memcached_string_free(memc, string);
-}
-
-void string_alloc_with_size(memcached_st *memc)
-{
-  memcached_string_st *string;
-
-  string= memcached_string_create(memc, 1024);
-  assert(string);
-  memcached_string_free(memc, string);
-}
-
-void string_alloc_with_size_toobig(memcached_st *memc)
-{
-  memcached_string_st *string;
-
-  string= memcached_string_create(memc, INT64_MAX);
-  assert(string == NULL);
-}
-
-void string_alloc_append(memcached_st *memc)
-{
-  unsigned int x;
-  char buffer[SMALL_STRING_LEN];
-  memcached_string_st *string;
-
-  /* Ring the bell! */
-  memset(buffer, 6, SMALL_STRING_LEN);
-
-  string= memcached_string_create(memc, 100);
-  assert(string);
-
-  for (x= 0; x < 1024; x++)
-  {
-    memcached_return rc;
-    rc= memcached_string_append(memc, string, buffer, SMALL_STRING_LEN);
-    assert(rc == MEMCACHED_SUCCESS);
+    world.collection.shutdown(world_ptr);
   }
-  memcached_string_free(memc, string);
-}
 
-void string_alloc_append_toobig(memcached_st *memc)
-{
-  memcached_return rc;
-  unsigned int x;
-  char buffer[SMALL_STRING_LEN];
-  memcached_string_st *string;
-
-  /* Ring the bell! */
-  memset(buffer, 6, SMALL_STRING_LEN);
-
-  string= memcached_string_create(memc, 100);
-  assert(string);
-
-  for (x= 0; x < 1024; x++)
+  if (stats.collection_failed || stats.collection_skipped)
   {
-    rc= memcached_string_append(memc, string, buffer, SMALL_STRING_LEN);
-    assert(rc == MEMCACHED_SUCCESS);
+    fprintf(stderr, "Some test failures and/or skipped test occurred.\n\n");
   }
-  rc= memcached_string_append(memc, string, buffer, INT64_MAX);
-  assert(rc == MEMCACHED_MEMORY_ALLOCATION_FAILURE);
-  memcached_string_free(memc, string);
-}
-
-void add_host_test1(memcached_st *memc)
-{
-  unsigned int x;
-  memcached_return rc;
-  char servername[]= "0.example.com";
-  memcached_server_st *servers;
-
-  servers= memcached_server_list_append(NULL, servername, 400, &rc);
-  assert(servers);
-  assert(1 == memcached_server_list_count(servers));
-
-  for (x= 2; x < 20; x++)
+  else
   {
-    char buffer[SMALL_STRING_LEN];
-
-    snprintf(buffer, SMALL_STRING_LEN, "%u.example.com", 400+x);
-    servers= memcached_server_list_append(servers, buffer, 401, 
-                                     &rc);
-    assert(rc == MEMCACHED_SUCCESS);
-    assert(x == memcached_server_list_count(servers));
+    fprintf(stderr, "All tests completed successfully\n\n");
   }
 
-  rc= memcached_server_push(memc, servers);
-  assert(rc == MEMCACHED_SUCCESS);
-  rc= memcached_server_push(memc, servers);
-  assert(rc == MEMCACHED_SUCCESS);
-
-  memcached_server_list_free(servers);
-}
-
-memcached_return pre_nonblock(memcached_st *memc)
-{
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_NO_BLOCK, NULL);
-
-  return MEMCACHED_SUCCESS;
-}
-
-memcached_return pre_md5(memcached_st *memc)
-{
-  memcached_hash value= MEMCACHED_HASH_MD5;
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_HASH, &value);
-
-  return MEMCACHED_SUCCESS;
-}
-
-memcached_return pre_crc(memcached_st *memc)
-{
-  memcached_hash value= MEMCACHED_HASH_CRC;
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_HASH, &value);
-
-  return MEMCACHED_SUCCESS;
-}
-
-memcached_return pre_unix_socket(memcached_st *memc)
-{
-  memcached_return rc;
-  struct stat buf;
-
-  memcached_server_list_free(memc->hosts);
-  memc->hosts= NULL;
-  memc->number_of_hosts= 0;
-
-  if (stat("/tmp/memcached.socket", &buf))
-    return MEMCACHED_FAILURE;
-
-  rc= memcached_server_add_unix_socket(memc, "/tmp/memcached.socket");
-
-  return rc;
-}
-
-memcached_return pre_nodelay(memcached_st *memc)
-{
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_NO_BLOCK, NULL);
-  memcached_behavior_set(memc, MEMCACHED_BEHAVIOR_TCP_NODELAY, NULL);
-
-  return MEMCACHED_SUCCESS;
-}
-
-typedef struct collection_st collection_st;
-typedef struct test_st test_st;
-
-struct test_st {
-  char *name;
-  unsigned int requires_flush;
-  void (*function)(memcached_st *memc);
-};
-
-struct collection_st {
-  char *name;
-  memcached_return (*pre)(memcached_st *memc);
-  memcached_return (*post)(memcached_st *memc);
-  test_st *tests;
-};
-
-int main(int argc, char *argv[])
-{
-  unsigned int x;
-  char *server_list;
-  char *collection_to_run= NULL;
-  char *wildcard= NULL;
-  memcached_server_st *servers;
-
-
-  if (argc > 1)
-    collection_to_run= argv[1];
-
-  if (argc == 3)
-    wildcard= argv[2];
-
-  if (!(server_list= getenv("MEMCACHED_SERVERS")))
-    server_list= "localhost";
-
-  printf("servers %s\n", server_list);
-  srandom(time(NULL));
-
-  servers= memcached_servers_parse(server_list);
-  assert(servers);
-
-  for (x= 0; x < memcached_server_list_count(servers); x++)
+  if (world.destroy)
   {
-    printf("\t%s : %u\n", servers[x].hostname, servers[x].port);
-    assert(servers[x].stack_responses == 0);
-    assert(servers[x].fd == -1);
-    assert(servers[x].cursor_active == 0);
-  }
-
-  printf("\n");
+    test_return_t error;
+    error= world.destroy(world_ptr);
 
-  /* Clean the server before beginning testing */
-  test_st tests[] ={
-    {"flush", 0, flush_test },
-    {"init", 0, init_test },
-    {"allocation", 0, allocation_test },
-    {"clone_test", 0, clone_test },
-    {"error", 0, error_test },
-    {"set", 0, set_test },
-    {"set2", 0, set_test2 },
-    {"set3", 0, set_test3 },
-    {"add", 0, add_test },
-    {"replace", 0, replace_test },
-    {"delete", 1, delete_test },
-    {"get", 1, get_test },
-    {"get2", 0, get_test2 },
-    {"get3", 0, get_test3 },
-    {"get4", 0, get_test4 },
-    {"stats_servername", 0, stats_servername_test },
-    {"increment", 0, increment_test },
-    {"decrement", 0, decrement_test },
-    {"quit", 0, quit_test },
-    {"mget", 0, mget_test },
-    {"get_stats", 0, get_stats },
-    {"add_host_test", 0, add_host_test },
-    {"get_stats_keys", 0, get_stats_keys },
-    {"behavior_test", 0, get_stats_keys },
-    {0, 0, 0}
-  };
-
-  test_st string_tests[] ={
-    {"string alloc with null", 0, string_alloc_null },
-    {"string alloc with 1K", 0, string_alloc_with_size },
-    {"string alloc with malloc failure", 0, string_alloc_with_size_toobig },
-    {"string append", 0, string_alloc_append },
-    {"string append failure (too big)", 0, string_alloc_append_toobig },
-    {0, 0, 0}
-  };
-
-  test_st user_tests[] ={
-    {"user_supplied_bug1", 0, user_supplied_bug1 },
-    {"user_supplied_bug2", 0, user_supplied_bug2 },
-    {"user_supplied_bug3", 0, user_supplied_bug3 },
-    {0, 0, 0}
-  };
-
-
-  collection_st collection[] ={
-    {"block", 0, 0, tests},
-    {"nonblock", pre_nonblock, 0, tests},
-    {"nodelay", pre_nodelay, 0, tests},
-    {"md5", pre_md5, 0, tests},
-    {"crc", pre_crc, 0, tests},
-    {"unix_socket", pre_unix_socket, 0, tests},
-    {"unix_socket_nodelay", pre_nodelay, 0, tests},
-    {"string", 0, 0, string_tests},
-    {"user", 0, 0, user_tests},
-    {0, 0, 0, 0}
-  };
-
-  collection_st *next;
-  for (next= collection; next->name; next++)
-  {
-    test_st *run;
-
-    run= next->tests;
-
-    if (collection_to_run && strcmp(collection_to_run, next->name))
-      continue;
-
-    fprintf(stderr, "\n%s\n\n", next->name);
-
-    for (x= 0; run->name; run++)
+    if (error != TEST_SUCCESS)
     {
-      if (wildcard && strcmp(wildcard, run->name))
-        continue;
-
-      fprintf(stderr, "Testing %s", run->name);
-
-      memcached_st *memc;
-      memcached_return rc;
-      struct timeval start_time, end_time;
-
-      memc= memcached_create(NULL);
-      assert(memc);
-
-      if (run->requires_flush)
-        memcached_flush(memc, 0);
-
-      rc= memcached_server_push(memc, servers);
-      assert(rc == MEMCACHED_SUCCESS);
-
-      unsigned int loop;
-      for (loop= 0; loop < memcached_server_list_count(servers); loop++)
-      {
-        assert(memc->hosts[loop].stack_responses == 0);
-        assert(memc->hosts[loop].fd == -1);
-        assert(memc->hosts[loop].cursor_active == 0);
-      }
-
-      if (next->pre)
-      {
-        memcached_return rc;
-        rc= next->pre(memc);
-
-        if (rc != MEMCACHED_SUCCESS)
-        {
-          fprintf(stderr, "\t\t\t\t\t [ skipping ]\n");
-          goto error;
-        }
-      }
-
-      gettimeofday(&start_time, NULL);
-      run->function(memc);
-      gettimeofday(&end_time, NULL);
-      long int load_time= timedif(end_time, start_time);
-      fprintf(stderr, "\t\t\t\t\t %ld.%03ld [ ok ]\n", load_time / 1000, 
-              load_time % 1000);
-
-      if (next->post)
-        (void)next->post(memc);
-
-      assert(memc);
-error:
-      memcached_free(memc);
+      fprintf(stderr, "Failure during shutdown.\n");
+      stats.failed++; // We do this to make our exit code return 1
     }
   }
 
-  /* Clean up whatever we might have left */
-  {
-    memcached_st *memc;
-    memc= memcached_create(NULL);
-    assert(memc);
-    flush_test(memc);
-    memcached_free(memc);
-  }
-
-  fprintf(stderr, "All tests completed successfully\n\n");
-
-  memcached_server_list_free(servers);
+  world_stats_print(&stats);
 
-  return 0;
+  return stats.failed == 0 ? 0 : 1;
 }