source: tools/tracestats/tracestats_parallel.c @ 7c95027

4.0.1-hotfixescachetimestampsdevelopdpdk-ndagetsilivelibtrace4ndag_formatpfringrc-4.0.1rc-4.0.2rc-4.0.3rc-4.0.4ringdecrementfixringperformanceringtimestampfixes
Last change on this file since 7c95027 was 7c95027, checked in by Richard Sanger <rsangerarj@…>, 7 years ago

Move combiners.h into libtrace_parallel.h and export libtrace_parallel.h
so that it is installed correctly.

  • Property mode set to 100644
File size: 9.1 KB
Line 
1/*
2 * This file is part of libtrace
3 *
4 * Copyright (c) 2007 The University of Waikato, Hamilton, New Zealand.
5 * Authors: Daniel Lawson
6 *          Perry Lorier
7 *         
8 * All rights reserved.
9 *
10 * This code has been developed by the University of Waikato WAND
11 * research group. For further information please see http://www.wand.net.nz/
12 *
13 * libtrace is free software; you can redistribute it and/or modify
14 * it under the terms of the GNU General Public License as published by
15 * the Free Software Foundation; either version 2 of the License, or
16 * (at your option) any later version.
17 *
18 * libtrace is distributed in the hope that it will be useful,
19 * but WITHOUT ANY WARRANTY; without even the implied warranty of
20 * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
21 * GNU General Public License for more details.
22 *
23 * You should have received a copy of the GNU General Public License
24 * along with libtrace; if not, write to the Free Software
25 * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
26 *
27 * $Id$
28 *
29 */
30
31/*
32 * This program takes a series of traces and bpf filters and outputs how many
33 * bytes/packets
34 */
35
36#include <stdio.h>
37#include <stdlib.h>
38#include <assert.h>
39#include <string.h>
40#include <sys/time.h>
41#include <sys/types.h>
42#include <time.h>
43
44#include <netinet/in.h>
45#include <netinet/in_systm.h>
46#include <netinet/tcp.h>
47#include <netinet/ip.h>
48#include <netinet/ip_icmp.h>
49#include <arpa/inet.h>
50#include <sys/socket.h>
51#include <getopt.h>
52#include <inttypes.h>
53#include <signal.h>
54
55#include "libtrace_parallel.h"
56#include "lt_inttypes.h"
57#include <pthread.h>
58
59struct libtrace_t *trace = NULL;
60
61static void cleanup_signal(int signal)
62{
63        static int s = 0;
64        (void)signal;
65        // trace_interrupt();
66        // trace_pstop isn't really signal safe because its got lots of locks in it
67    trace_pstop(trace);
68    /*if (s == 0) {
69                if (trace_ppause(trace) == -1)
70                        trace_perror(trace, "Pause failed");
71        }
72        else {
73                if (trace_pstart(trace, NULL, NULL, NULL) == -1)
74                        trace_perror(trace, "Start failed");
75    }*/
76        s = !s;
77}
78
79struct filter_t {
80        char *expr;
81        struct libtrace_filter_t *filter;
82        uint64_t count;
83        uint64_t bytes;
84} *filters = NULL;
85int filter_count=0;
86volatile uint64_t totcount = 0;
87volatile uint64_t totbytes = 0;
88
89
90typedef struct global_blob {
91        uint64_t * totcount;
92        uint64_t * totbytes;
93} global_blob_t;
94
95typedef struct statistics {
96        uint64_t count;
97        uint64_t bytes;
98} statistics_t;
99
100
101//libtrace_message_t mesg
102static void* per_packet(libtrace_t *trace, libtrace_thread_t *t,
103                        int mesg, libtrace_generic_t data,
104                        libtrace_thread_t *sender UNUSED)
105{
106        // Using first entry as total and those after for filter counts
107        static __thread statistics_t * results = NULL;
108        int i, wlen;
109        libtrace_stat_t *stats;
110
111
112        // printf ("%d.%06d READ #%"PRIu64"\n", tv.tv_sec, tv.tv_usec, trace_packet_get(packet));
113        switch (mesg) {
114        case MESSAGE_PACKET:
115                wlen = trace_get_wire_length(data.pkt);
116                for(i=0;i<filter_count;++i) {
117                        if (filters[i].filter == NULL)
118                                continue;
119                        if(trace_apply_filter(filters[i].filter,data.pkt) > 0) {
120                                results[i+1].count++;
121                                results[i+1].bytes+=wlen;
122                        }
123                        if (trace_is_err(trace)) {
124                                trace_perror(trace, "trace_apply_filter");
125                                fprintf(stderr, "Removing filter from filterlist\n");
126                                // XXX might be a problem across threads below
127                                filters[i].filter = NULL;
128                        }
129                }
130                results[0].count++;
131                results[0].bytes +=wlen;
132                return data.pkt;
133        case MESSAGE_STOPPING:
134                stats = trace_create_statistics();
135                trace_get_thread_statistics(trace, t, stats);
136                trace_print_statistics(stats, stderr, NULL);
137                free(stats);
138                trace_publish_result(trace, t, 0, (libtrace_generic_t){.ptr = results}, RESULT_USER); // Only ever using a single key 0
139                //fprintf(stderr, "tracestats_parallel:\t Stopping thread - publishing results\n");
140                break;
141        case MESSAGE_STARTING:
142                results = calloc(1, sizeof(statistics_t) * (filter_count + 1));
143                break;
144        case MESSAGE_DO_PAUSE:
145                assert(!"GOT Asked to pause!!!\n");
146                break;
147        case MESSAGE_PAUSING:
148                //fprintf(stderr, "tracestats_parallel:\t pausing thread\n");
149                break;
150        case MESSAGE_RESUMING:
151                //fprintf(stderr, "tracestats_parallel:\t resuming thread\n");
152                break;
153        }
154        return NULL;
155}
156
157static void report_result(libtrace_t *trace UNUSED, int mesg,
158                          libtrace_generic_t data,
159                          libtrace_thread_t *sender UNUSED) {
160        static uint64_t count=0, bytes=0;
161        int i;
162        libtrace_stat_t *stats;
163
164        switch (mesg) {
165        case MESSAGE_RESULT:
166                /* Get the results from each core and sum 'em up */
167                assert(data.res->key == 0);
168                statistics_t * res = data.res->value.ptr;
169                count += res[0].count;
170                bytes += res[0].bytes;
171                for (i = 0; i < filter_count; i++) {
172                        filters[i].count += res[i+1].count;
173                        filters[i].bytes += res[i+1].bytes;
174                }
175                free(res);
176                break;
177        case MESSAGE_STOPPING:
178                stats = trace_get_statistics(trace, NULL);
179                printf("%-30s\t%12s\t%12s\t%7s\n","filter","count","bytes","%");
180                for(i=0;i<filter_count;++i) {
181                        printf("%30s:\t%12"PRIu64"\t%12"PRIu64"\t%7.03f\n",filters[i].expr,filters[i].count,filters[i].bytes,filters[i].count*100.0/count);
182                        filters[i].bytes=0;
183                        filters[i].count=0;
184                }
185                if (stats->received_valid)
186                        fprintf(stderr,"%30s:\t%12" PRIu64"\n",
187                                "Input packets", stats->received);
188                if (stats->filtered_valid)
189                        fprintf(stderr,"%30s:\t%12" PRIu64"\n",
190                                "Filtered packets", stats->filtered);
191                if (stats->dropped_valid)
192                        fprintf(stderr,"%30s:\t%12" PRIu64"\n",
193                                "Dropped packets",stats->dropped);
194                if (stats->accepted_valid)
195                        fprintf(stderr,"%30s:\t%12" PRIu64 "\n",
196                                "Accepted packets", stats->accepted);
197                if (stats->errors_valid)
198                        fprintf(stderr,"%30s:\t%12" PRIu64 "\n",
199                                "Erred packets", stats->errors);
200                printf("%30s:\t%12"PRIu64"\t%12" PRIu64 "\n","Total",count,bytes);
201                totcount+=count;
202                totbytes+=bytes;
203        }
204}
205
206static uint64_t rand_hash(libtrace_packet_t * pkt UNUSED, void *data UNUSED) {
207        return rand();
208}
209
210static uint64_t bad_hash(libtrace_packet_t * pkt UNUSED, void *data UNUSED) {
211        return 0;
212}
213
214/* Process a trace, counting packets that match filter(s) */
215static void run_trace(char *uri, char *config, char *config_file)
216{
217
218        fprintf(stderr,"%s:\n",uri);
219
220        trace = trace_create(uri);
221
222        if (trace_is_err(trace)) {
223                trace_perror(trace,"Failed to create trace");
224                return;
225        }
226
227        //libtrace_filter_t *f = trace_create_filter("udp");
228        //trace_config(trace, TRACE_OPTION_FILTER, f);
229
230        //trace_config(trace, TRACE_OPTION_META_FREQ, &option);
231        //option = 10000;
232        trace_set_hasher(trace, HASHER_CUSTOM, &rand_hash, NULL);
233        //trace_parallel_config(trace, TRACE_OPTION_SET_PERPKT_THREAD_COUNT, &option);
234
235        /* Apply config */
236        if (config) {
237                trace_set_configuration(trace, config);
238        }
239
240        if (config_file) {
241                FILE * f = fopen(optarg, "r");
242                if (f != NULL) {
243                        trace_set_configuration_file(trace, f);
244                        fclose(f);
245                } else {
246                        perror("Failed to open configuration file\n");
247                        exit(-1);
248                }
249        }
250
251        trace_set_combiner(trace, &combiner_ordered, (libtrace_generic_t){0});
252
253        //trace_parallel_config(trace, TRACE_OPTION_SET_MAPPER_BUFFER_SIZE, &option);
254
255        /* OPTIONALLY SETUP CORES HERE BUT WE DON'T CARE ABOUT THAT YET XXX */
256
257        /*if (trace_start(trace)==-1) {
258        trace_perror(trace,"Failed to start trace");
259        return;
260        }*/
261        global_blob_t blob;
262
263
264        if (trace_pstart(trace, (void *)&blob, &per_packet, report_result)==-1) {
265                trace_perror(trace,"Failed to start trace");
266                return;
267        }
268
269        // Wait for all threads to stop
270        trace_join(trace);
271
272        //map_pair_iterator_t * results = NULL;
273        //trace_get_results(trace, &results);
274
275        //if (results != NULL) {
276        //      reduce(trace, global_blob, results);
277        //}
278        if (trace_is_err(trace))
279                trace_perror(trace,"%s",uri);
280
281        trace_destroy(trace);
282}
283
284static void usage(char *argv0)
285{
286        fprintf(stderr,"Usage: %s [-H|--libtrace-help] [--filter|-f bpf ]... libtraceuri...\n",argv0);
287}
288
289int main(int argc, char *argv[]) {
290
291        int i;
292        struct sigaction sigact;
293        char *config = NULL;
294        char *config_file = NULL;
295
296        while(1) {
297                int option_index;
298                struct option long_options[] = {
299                        { "filter",        1, 0, 'f' },
300                        { "libtrace-help", 0, 0, 'H' },
301                        { "config",             1, 0, 'u' },
302                        { "config-file",                1, 0, 'U' },
303                        { NULL,            0, 0, 0   },
304                };
305
306                int c=getopt_long(argc, argv, "f:Hu:U:",
307                                long_options, &option_index);
308
309                if (c==-1)
310                        break;
311
312                switch (c) {
313                        case 'f':
314                                ++filter_count;
315                                filters=realloc(filters,filter_count*sizeof(struct filter_t));
316                                filters[filter_count-1].expr=strdup(optarg);
317                                filters[filter_count-1].filter=trace_create_filter(optarg);
318                                filters[filter_count-1].count=0;
319                                filters[filter_count-1].bytes=0;
320                                break;
321                        case 'H':
322                                trace_help();
323                                exit(1);
324                                break;
325                        case 'u':
326                                config = optarg;
327                                break;
328                        case 'U':
329                                config_file = optarg;
330                                break;
331                        default:
332                                fprintf(stderr,"Unknown option: %c\n",c);
333                                usage(argv[0]);
334                                return 1;
335                }
336        }
337
338        sigact.sa_handler = cleanup_signal;
339        sigemptyset(&sigact.sa_mask);
340        sigact.sa_flags = SA_RESTART;
341
342        sigaction(SIGINT, &sigact, NULL);
343        sigaction(SIGTERM, &sigact, NULL);
344
345        for(i=optind;i<argc;++i) {
346                run_trace(argv[i], config, config_file);
347        }
348        if (optind+1<argc) {
349                printf("Grand total:\n");
350                printf("%30s:\t%12"PRIu64"\t%12" PRIu64 "\n","Total",totcount,totbytes);
351        }
352       
353        return 0;
354}
Note: See TracBrowser for help on using the repository browser.